Kontextové okno AI: proč model „zapomíná“ a co s tím

Možná jste to zažili: na začátku konverzace jste AI vysvětlili důležité pravidlo, a o třicet zpráv později ho ignoruje. Nejde o chybu ani o lenost. Je to důsledek kontextového okna – omezení, kolik textu model najednou „vidí“.

Co je kontextové okno

Kontextové okno je maximální množství textu (měřené v tokenech), které model zpracuje v rámci jedné odpovědi. Patří do něj:

systémové pokyny a vaše vlastní instrukce,
celá historie konverzace (vaše zprávy i odpovědi AI),
přílohy – vložené soubory, PDF, kód,
samotná nová odpověď, kterou model generuje.

Model nemá jinou „paměť“ konverzace než to, co je právě v okně. Co se do něj nevejde, pro něj neexistuje.

Co se stane, když se okno zaplní

Záleží na aplikaci. Typicky se nejstarší části konverzace zkrátí, vynechají nebo shrnou. Výsledek je stejný: AI přestane brát v úvahu informace ze začátku.

A ještě jedna věc: i když se text do okna vejde, neznamená to, že mu model věnuje stejnou pozornost. U velmi dlouhých vstupů se může stát, že detaily uprostřed dlouhého textu model přehlédne snáz než to, co je na začátku nebo na konci.

Příznaky přeplněného kontextu

AI opakuje řešení, které jste už odmítli.
Ignoruje pravidla zadaná na začátku (formát, jazyk, styl).
Plete si verze souborů – navrhuje změny ve staré verzi kódu.
Odpovědi jsou pomalejší a spotřeba tokenů roste.

1. Nová konverzace pro nové téma

Nejjednodušší řešení. Jakmile přejdete k jiné úloze, začněte čistou konverzaci. Ušetříte tokeny a AI se nebude mást předchozím obsahem.

2. Shrnutí a restart

U dlouhé práce na jednom tématu použijte „předávací shrnutí“:

Shrň dosavadní konverzaci pro pokračování v novém vlákně:
- cíl, na kterém pracujeme,
- rozhodnutí, která jsme udělali (a proč),
- co je hotové,
- co zbývá,
- pravidla a omezení, která platí.
Max. 200 slov.

Shrnutí zkontrolujte, doplňte, vložte do nové konverzace a pokračujte.

3. Důležité věci opakujte na konci

Když posíláte dlouhý dokument, dejte samotnou otázku či instrukci za dokument, ne jen před něj:

<dokument>
... 30 stran ...
</dokument>

Na základě dokumentu výše: jaké jsou výpovědní lhůty
pro obě strany? Cituj příslušné články.

Instrukce na konci je „čerstvá“ a model ji nepřehlédne.

4. Posílejte jen relevantní části

Místo celého 5000řádkového logu nebo celého repozitáře vyberte, co souvisí s problémem. U kódu: soubor s chybou, rozhraní, které používá, a chybová hláška. Zbytek AI dodáte, až si o něj řekne.

5. Rozdělte velký dokument

Pro velmi dlouhé texty (knihy, rozsáhlé reporty) použijte postup:

rozdělte text na kapitoly,
každou nechte shrnout zvlášť,
pak pracujte se souhrny, ne s originálem.

Detailní otázky pak kladete jen ke konkrétní kapitole.

Kontext vs. paměť

Kontextové okno se často plete s pamětí. Rozdíl:

	Kontextové okno	Paměť
Rozsah	jedna konverzace	napříč konverzacemi
Obsah	vše, co je v aktuálním vlákně	vybraná fakta o vás
Životnost	do konce konverzace	dokud ji nesmažete

V ColdHost AI si AI může zapamatovat fakta o vás (třeba jaký stack používáte), a vy je vidíte a mažete v sekci Profil a paměť. Paměť se pak dostává do kontextu nových konverzací – proto je dobré ji udržovat stručnou a aktuální.

Kontext v projektech s kódem

U větších projektů je zbytečné posílat AI všechny soubory pokaždé. V ColdHost AI můžete pracovat v Projektech, kam nahrajete soubory, ZIP nebo naimportujete repozitář z GitHubu, a AI s nimi pracuje přímo – úpravy dělá buď celým souborem, nebo cílenými změnami typu SEARCH/REPLACE. Cílené úpravy jsou šetrnější, protože se nepřepisuje celý soubor.

Shrnutí

Kontextové okno je pracovní stůl modelu. Čím víc na něm leží, tím hůř se v tom orientuje. Udržujte ho uklizený: nová konverzace pro nové téma, předávací shrnutí u dlouhé práce, jen relevantní podklady a klíčové instrukce na konci.