AI w firmie

Haiku 5.5 kosztuje o 90 procent mniej: które zadania się opłacają

Mały model Haiku 5.5 potaniał o 90 procent. Wyjaśniam, jakie zadania w firmie zaczynają się opłacać i jak to sprawdzić na własnych dokumentach.

W kwietniu 1956 roku w porcie Newark w stanie New Jersey dźwig podniósł na pokład przerobionego tankowca z czasów drugiej wojny światowej pięćdziesiąt osiem aluminiowych nadwozi ciężarówek zdjętych z kół. Statek nazywał się Ideal-X i płynął do Houston, a pomysłodawcą rejsu był Malcolm McLean, przedsiębiorca z branży przewozów drogowych. Rejs trwał pięć dni, a w Houston skrzynie zdjęto na podwozia ciężarówek i rozwieziono do odbiorców. Według wyliczeń, które przytacza recenzja książki Marca Levinsona o historii kontenera, załadunek tony ładunku luzem na średniej wielkości statek kosztował wtedy 5,83 dolara, a załadunek tony w skrzyni na Ideal-X 15,8 centa, czyli o około 97 procent mniej.

Intuicja podpowiada, że najwięcej zyskają ci, którzy do tej pory ładowali statki najlepiej. W połowie lat pięćdziesiątych na Manhattanie i Brooklynie działało 283 nabrzeża, tymczasem w 1960 roku porty New Jersey, gdzie firma McLeana, Sea-Land, otworzyła pierwszy terminal kontenerowy, obsługiwały już 63 procent ładunków regionu. Do 1970 roku doki Nowego Jorku przeładowywały jedną pięćdziesiątą tonażu z roku 1960, a większość nabrzeży stała pusta albo zamieniono ją na tereny rekreacyjne. Tańszy załadunek przeniósł pracę do innych portów i zostawił stare nabrzeża bez ładunków.

Sama skrzynia niczego jeszcze nie rozstrzygała. Według Levinsona, cytowanego w magazynie Smithsonian, największą przeszkodą w rozwoju przewozów kontenerowych była różnorodność: rozmowy o normach rozpoczęły się w 1958 roku z inicjatywy marynarki wojennej Stanów Zjednoczonych, a dopiero udostępnienie patentów McLeana bez opłat i uzgodniona długość 40 stóp sprawiły, że każda skrzynia pasowała na każdy statek. Ile operacji w waszej firmie wykonuje się starym sposobem tylko dlatego, że nikt nie zapytał, dokąd przeniosłaby się praca, gdyby jedna operacja kosztowała grosze?

Skrzynia McLeana potaniła załadunek ponad trzydziestokrotnie i przeniosła pracę do innych portów. Teza tego wpisu brzmi: gdy cena podstawowej operacji spada o rząd wielkości, zmienia się lista prac, które warto wykonywać, więc firma powinna policzyć, ile zadań dotąd odrzucała jako zbyt drobne. Taki spadek ceny nastąpił 7 października 2026 roku, kiedy firma Anthropic wprowadziła do sprzedaży model Claude Haiku 5.5.

Co dokładnie potaniało

Model językowy to program, który nauczył się na ogromnych zbiorach tekstów przewidywać, jakie słowa pasują do danej treści, i na tej podstawie układa odpowiedzi. Anthropic oferuje modele w kilku rozmiarach, a cena za milion tokenów wejściowych wynosi 10 dolarów dla największego z nich, Fable 5.1, 4 dolary dla Opus 5.5, 2 dolary dla Sonneta 5.5 i od 10 centów dla Haiku 5.5. Token to fragment słowa, którym model rozlicza zarówno czytanie, jak i pisanie, a milion tokenów odpowiada według dokumentacji mniej więcej 555 tysiącom słów.

Poprzednik, Haiku 4.5, kosztował dolara za milion tokenów wejściowych i 5 dolarów za milion wyjściowych. Haiku 5.5 kosztuje 10 centów i 50 centów przy zapytaniach do 100 tysięcy tokenów oraz 50 centów i 2,5 dolara przy dłuższych, co daje obniżkę o 90 procent dla krótszych zapytań i o 50 procent dla dłuższych. Nowy model dzieli ten sam tekst na około 30 procent więcej tokenów niż poprzedni, więc rzeczywista oszczędność na tym samym dokumencie wynosi około 87 procent, a sam producent szacuje, że praca kosztuje średnio o około 75 procent mniej. Okno kontekstu, czyli ilość tekstu, jaką model widzi naraz, wzrosło z 200 tysięcy do miliona tokenów.

Rachunek dla dwudziestu tysięcy zgłoszeń miesięcznie

Załóżmy dział reklamacji w firmie dóbr szybkozbywalnych, do którego trafia 20 tysięcy wiadomości miesięcznie, a każda liczy około 2000 tokenów i wymaga odpowiedzi modelu na 200 tokenów (kategoria sprawy i pilność). Haiku 5.5 policzy za całość 4 dolary za czytanie i 2 dolary za pisanie, czyli 6 dolarów miesięcznie, podczas gdy Sonnet 5.5 pobierze na tych samych danych 120 dolarów, a Haiku 4.5 około 46 dolarów. Jeśli człowiek poświęcał każdej wiadomości dwie minuty na przeczytanie i przypisanie do kategorii, praca ta zajmowała około 670 godzin miesięcznie, czyli niemal cztery etaty.

Ważniejsze od oszczędności jest to, co ten rachunek robi z zadaniami, które dotąd odkładano. Przeczytanie i opisanie wszystkich 240 tysięcy zgłoszeń z całego roku, żeby sprawdzić, które wady powtarzają się u jednego dostawcy, kosztuje według tych założeń 72 dolary, więc przestaje być projektem wymagającym zgody dyrektora, a staje się popołudniem pracy analityka. Podobnie dzieje się z przeglądem tysięcy umów pod kątem jednej klauzuli albo ze zbieraniem uwag z ankiet pracowniczych. Koszt przestaje być barierą, a rolę ogranicznika przejmuje czas osób, które sprawdzają wyniki.

Co mówią o jakości pierwsze wdrożenia

Wszystkie poniższe liczby pochodzą z materiałów producenta i mają dwa tygodnie, więc nie zostały jeszcze potwierdzone niezależnie. HubSpot podaje wynik 92,8 procent na własnym zestawie testów dla systemu zarządzania relacjami z klientami, najlepszy, jaki dotąd uzyskał, a Box notuje wynik wyższy o 11 punktów niż przy Haiku 4.5 przy około połowie czasu odpowiedzi. AlphaSense zmierzył na 400 zapytaniach do dokumentów wynik 0,84 wobec 0,76 dla poprzedniej wersji.

Najbardziej wiarygodna jest tu uczciwość samej tabeli producenta: Sonnet 5.5 wygrywa w niej w każdej wymienionej kategorii. W teście złożonych zadań wykonywanych w wierszu poleceń komputera Haiku 5.5 uzyskał 39,2 procent, a Sonnet 70,6 procent, co ustawia granicę przydatności małego modelu dość precyzyjnie. Dobrze radzi sobie z pracą wąską i powtarzalną, taką jak klasyfikowanie dokumentów i kierowanie spraw do właściwej osoby, a gorzej z długimi łańcuchami czynności, w których błąd z trzeciego kroku psuje dziesiąty.

Czego mały model nie rozwiąże i na co uważać

Model odpowiada z równą pewnością siebie wtedy, gdy ma rację, i wtedy, gdy się myli, więc każdy proces potrzebuje próbkowego sprawdzania wyników przez człowieka, a przy treściach wysyłanych klientom także zatwierdzenie przez człowieka. Zabezpieczenia modelu potrafią odrzucić zapytanie, a dokumentacja zaznacza, że po stronie serwera nie ma rozwiązania zastępczego, więc zespół techniczny musi przewidzieć kolejkę dla spraw, których model nie przyjął. Rozmowy z klientami zawierają dane osobowe podlegające rozporządzeniu o ochronie danych osobowych (RODO), dlatego przed pilotażem trzeba podpisać z dostawcą umowę powierzenia przetwarzania, sprawdzić miejsce przetwarzania danych w wybranej usłudze i usunąć dane z materiałów testowych.

Dział kadr powinien wiedzieć o jednej granicy: według serwisu informacyjnego Komisji Europejskiej o rozporządzeniu w sprawie sztucznej inteligencji system oceniający i szeregujący kandydatów do pracy należy do kategorii wysokiego ryzyka (załącznik III, punkt 4a), nawet jeśli ostateczną decyzję podejmuje rekruter. Pytania pracowników o urlopy i regulaminy można sortować mniejszym kosztem prawnym niż życiorysy. Firmy, które już używają Haiku 4.5, muszą ponadto liczyć się z pracą programistów: nowa wersja nie przyjmuje części dotychczasowych ustawień, a tekst liczony jest inaczej, więc koszty trzeba przeliczyć od nowa.

Rekomendacja i pierwszy krok na poniedziałek rano

Haiku 5.5 warto przyjąć jako model domyślny dla zadań masowych o wąskim zakresie, czyli sortowania i kierowania spraw, a Sonneta 5.5 zostawić do pisania i analiz, w których błąd kosztuje drogo. Wybór między nimi rozstrzyga test na waszych dokumentach, bo tabele producenta mówią o cudzych danych. Do pierwszego testu wystarczą dwie osoby i jedno popołudnie.

  1. Wybierzcie jeden powtarzalny proces, w którym ludzie czytają wiadomość i przypisują ją do jednej z kilku kategorii, na przykład reklamacje albo pytania do działu kadr.
  2. Weźcie 200 wiadomości z ostatniego kwartału, które człowiek już sklasyfikował, i usuńcie z nich imiona i numery zamówień.
  3. Poproście osobę techniczną o uruchomienie Haiku 5.5 i Sonneta 5.5 na tych wiadomościach z identyczną instrukcją, a potem porównajcie wyniki z decyzjami ludzi.
  4. Dodajcie drugiego pracownika, który niezależnie sklasyfikuje te same 100 wiadomości, żeby poznać zgodność dwóch ludzi między sobą.
  5. Wybierzcie tańszy model, jeśli jego zgodność z człowiekiem dorównuje zgodności ludzi między sobą, i zapiszcie koszt z faktury za ten test.

Czwarty krok pokazuje, że ludzie też rozchodzą się w ocenach, więc poprzeczka dla modelu nie stoi na stu procentach zgodności. Kiedy test wypadnie dobrze, zapytajcie zespół, jaką pracę przez lata odkładano, bo każde jej wykonanie kosztowało godzinę człowieka: która z nich zaczęłaby się opłacać przy cenie kilku dolarów miesięcznie?

Haiku 5.5 kosztuje o 90 procent mniej: które zadania się opłacają · Przemek Blicharski