Pięć sekund: tyle trwało pokazanie szachownicy z partią w toku, zanim Adriaan de Groot ją zasłonił i poprosił o odtworzenie układu na pustej planszy. Holenderski psycholog, sam szachista, badał w ten sposób w latach czterdziestych ubiegłego wieku mistrzów i graczy przeciętnych, a wyniki opisał w rozprawie o myśleniu szachisty wydanej w 1946 roku. Mistrzowie odtwarzali pozycje z prawdziwych partii z zadziwiającą dokładnością, podczas gdy słabsi gracze ustawiali z pamięci zaledwie garść figur, co wyglądało na prosty dowód, że mistrz ma po prostu lepszą pamięć. Trudno o bardziej naturalne wyjaśnienie niż to, że ktoś, kto zapamiętuje więcej, lepiej gra w grę, w której trzeba pamiętać dużo.
Zwrot nadszedł w 1973 roku, gdy William Chase i Herbert Simon dołożyli do doświadczenia plansze z figurami rozstawionymi losowo. Na takich planszach przewaga mistrza w ich badaniu zniknęła, a mistrz zapamiętał układ nie lepiej od nowicjusza. Późniejsze prace wykazały, że mistrzowie radzą sobie z losowymi układami odrobinę lepiej, niż wynikało z tamtego eksperymentu, ale ich przewaga i tak kurczy się wyraźnie w porównaniu z pozycjami z prawdziwych partii.
Chase i Simon wyjaśnili wynik tak: mistrz rozpoznaje znane układy figur, które nazwali blokami, i zapamiętuje kilka takich bloków zamiast kilkunastu pojedynczych figur, więc pojemność jego pamięci krótkotrwałej niczym nie przewyższa pojemności pamięci nowicjusza. Pozycja z prawdziwej partii składa się ze znajomych bloków, na przykład ustawienia figur po roszadzie, które mistrz widział tysiące razy. Losowa plansza nie zawiera żadnego z nich, dlatego mistrz musi liczyć figury jedna po drugiej, tak jak każdy inny gracz. Ile ze swojej pamięci szachista zawdzięcza temu, co zapamiętał, a ile temu, co potrafił uznać za nieistotne?
Narzędzia sztucznej inteligencji mają własną wersję tej zależności. Okno kontekstu, czyli całość tekstu, który model widzi w chwili odpowiadania, rośnie z roku na rok i sprawia wrażenie, że wystarczy wgrać do rozmowy wszystkie dokumenty, a odpowiedź tylko na tym zyska. Teza tego wpisu brzmi: o jakości odpowiedzi decyduje dobór i kolejność materiału, a rozmiar okna ma znaczenie wtórne, bo sterta dokumentów bez porządku jest dla modelu tym, czym losowa plansza dla mistrza.
Czym jest okno kontekstu i dlaczego rachunek rośnie z każdą wiadomością
Okno kontekstu obejmuje twoje polecenie, wgrane dokumenty, wcześniejszą część rozmowy i poprzednie odpowiedzi samego modelu. Mierzy się je w tokenach, czyli fragmentach słów, na które model dzieli każdy tekst przed jego przetworzeniem. W obecnych modelach rodziny Claude, takich jak Opus 5.5 czy Sonnet 5.5, okno sięga miliona tokenów, a dokumentacja producenta nazywa je „pamięcią roboczą” modelu.
Model niczego nie przechowuje między rozmowami, więc przy każdej kolejnej wiadomości dostaje od nowa całą dotychczasową historię, razem z dokumentami wgranymi na początku. W praktyce im dłuższa rozmowa, tym więcej tokenów przetwarza się przy każdym pytaniu, i tym więcej to kosztuje oraz trwa. Według dokumentacji zapytania z długim kontekstem rozlicza się po zwykłej stawce, z wyjątkiem modelu Haiku 5.5, w którym prompty dłuższe niż 100 tysięcy tokenów kosztują więcej.
Dlaczego miejsce w oknie nie oznacza dobrej pamięci
Intuicja podpowiada, że skoro mieści się milion tokenów, model wykorzysta je wszystkie równie dobrze. Nelson Liu i współautorzy opublikowali w 2023 roku pracę „Lost in the Middle” („zgubione w środku”), przyjętą później do czasopisma Transactions of the Association for Computational Linguistics. Modele odpowiadały w niej najlepiej, gdy potrzebna informacja leżała na początku albo na końcu wejścia, wyraźnie gorzej, gdy tkwiła w środku, i dotyczyło to również modeli przeznaczonych do długich tekstów. Dokładność spadała ponadto po prostu wraz z długością wejścia.
W lipcu 2025 roku firma Chroma opisała test osiemnastu modeli, wśród nich GPT-4.1 firmy OpenAI, Claude 4 i Gemini 2.5, w którym trudność zadania pozostawała stała, a zmieniano wyłącznie długość tekstu. Niezawodność malała w miarę jego wydłużania, a szczególnie źle modele znosiły fragmenty podobne tematycznie do szukanej informacji, bo łatwo je było z nią pomylić. Sam producent pisze w dokumentacji, że więcej kontekstu nie jest automatycznie lepsze, ponieważ wraz z liczbą tokenów dokładność i przywoływanie szczegółów się pogarszają, a zjawisko nazywa się gniciem kontekstu (po angielsku context rot).
W artykule inżynierskim Anthropic dodaje, że spadek jest stopniowy, widoczny u wszystkich modeli, a kontekst należy traktować jak zasób skończony, z którego każdy token zabiera część „budżetu uwagi”. Badania Liu i Chromy dotyczyły starszych generacji, a nowsze modele degradują łagodniej, jednak ten sam producent w dokumentacji z października 2026 roku wciąż ostrzega przed zjawiskiem. Wróćmy do szachownicy: czterdzieści umów wrzuconych bez kolejności przypomina planszę z losowo rozstawionymi figurami, a dziesięć dobrze dobranych stron z krótkim opisem zadania przypomina pozycję z prawdziwej partii.
Co pomaga i czego model nie potrafi
Producent opisuje dwie techniki porządkowania kontekstu. Pierwsza to kompakcja, czyli streszczenie rozmowy zbliżającej się do limitu i wznowienie jej od tego streszczenia, a druga polega na zapisywaniu notatek poza oknem, do których narzędzie wraca w razie potrzeby. Obie przypominają to, co robi dobry pracownik: przed każdą decyzją sięga po notatkę z najważniejszymi ustaleniami zamiast przeglądać całe archiwum.
Granica możliwości leży tam, gdzie model nie umie zameldować, że coś pominął. Odpowiada pewnym, płynnym tonem także wtedy, gdy zapis z dwudziestej siódmej umowy wypadł mu z uwagi, a o skutkach takiej pewności tonu dla zespołów pisałem w poprzednim wpisie. Dochodzi ryzyko danych: każdy dokument wgrany „na wszelki wypadek” trafia do zewnętrznego dostawcy, więc zasada „tylko to, co potrzebne do zadania” obniża zarówno rachunek, jak i ekspozycję umów oraz danych osobowych.
Długich rozmów dotyczy to samo: po kilkudziesięciu wymianach zdań okno wypełnia się starymi odpowiedziami i porzuconymi wątkami, więc przy nowym zagadnieniu opłaca się zacząć nową rozmowę i wkleić do niej krótkie streszczenie ustaleń. Częsty błąd wygląda odwrotnie: jedna rozmowa trwa cały tydzień, bo „narzędzie już wie, o co chodzi”, a jakość odpowiedzi z dnia na dzień spada, co zespół przypisuje kaprysom modelu.
Duże okno ma swoje zastosowania, a ocenię je ostrożnie: sprawdza się, gdy trzeba streścić jeden długi dokument albo odnaleźć w nim pojedynczy zapis, bo model czyta wtedy spójny tekst z jednym wątkiem. Kłopoty zaczynają się przy zadaniach, w których trzeba zestawić wiele źródeł naraz i niczego nie pominąć, czyli przy porównywaniu umów albo zestawieniach z dziesiątków raportów.
Moja rekomendacja jest prosta: traktować okno jak biurko, na którym leży to, czego używasz dziś. Przekłada się to na dwa nawyki: wgrywać fragmenty zamiast całych plików oraz prosić o cytaty z numerem strony, bo cytat da się sprawdzić w kilkanaście sekund, a jego brak natychmiast zdradza zmyśloną odpowiedź. Dobry opis zadania ustawiony na początku, powtórzone pytanie na końcu i wyselekcjonowane fragmenty w środku to ustawienie, które da się sprawdzić pomiarem.
Pierwszy krok na poniedziałek rano: test na dwie godziny
Wyobraźmy sobie dział zakupów, który co kwartał zestawia terminy wypowiedzenia z umów dostawców. Pomiar wygląda tak:
- Wybierz zadanie, którego poprawny wynik znasz, na przykład listę terminów wypowiedzenia z dwudziestu umów, którą ktoś kiedyś przygotował ręcznie.
- Najpierw wgraj wszystkie dwadzieścia umów w całości i zadaj jedno pytanie o terminy.
- Potem poproś pracownika o wybranie z każdej umowy stron z okresem wypowiedzenia, napisz półstronicowy opis zadania z oczekiwanym formatem odpowiedzi, wstaw go na początek i powtórz pytanie na końcu.
- Policz w obu odpowiedziach pozycje pominięte i błędne, porównaj je z listą ręczną i zanotuj czas pracy.
Oba podejścia przeprowadź na tym samym modelu i w tej samej wersji, bo po każdej aktualizacji wyniki mogą się przesunąć. Test nie obiecuje różnicy: jeśli jej nie ma, macie dowód, że wasze zadanie mieści się w możliwościach prostszej metody, a jeśli jest, macie liczbę, którą pokażecie dyrektorowi zamiast opinii. Który z dokumentów, które wasz zespół wgrywa do rozmowy z narzędziem „na wszelki wypadek”, nikt nigdy nie przeczytał do końca?