W grudniu 2005 roku cztery szpitale na wschodnim wybrzeżu Stanów Zjednoczonych zapisały w dziennikach ponad 300 tysięcy podań leków, a kilka lat później badacz Ross Koppel i jego współautorzy policzyli, ile razy pielęgniarka zatwierdziła podanie mimo ostrzeżenia komputera. Wyszło 4,2 procent podań pacjentom i 10,3 procent wszystkich podanych leków. Szpitale wprowadziły wcześniej zasadę, że przed każdym podaniem pielęgniarka skanuje kod kreskowy na opasce pacjenta oraz kod na opakowaniu leku, a komputer sprawdza, czy zgadzają się człowiek, lek i dawka.
Koppel z zespołem przeprowadził 62 obserwacje, towarzysząc 31 pielęgniarkom na oddziałach intensywnej terapii i internistycznych w dwóch szpitalach, a wywiady zebrał w pięciu. Zobaczyli kopie kodów pacjentów przyklejone do biurek, wózków z lekami, futryn i podkładek z dokumentacją, a także do rękawów i szlufek paska, żeby zeskanować kod z rękawa zamiast z opaski na ręce pacjenta. Zdarzało się też, że jedno opakowanie skanowano dwa razy przy dwóch dawkach, bo pielęgniarka uznała tabletki za identyczne.
Zwrot polega na tym, że opisani ludzie chcieli dobrze. Autorzy napisali, że żadne z obejść nie wynikało ze złej woli, a pielęgniarki uważały je za potrzebne dla dobra pacjenta, sprawności pracy albo bezpieczeństwa. Przyczyn naliczyli 31: wymięte kody na opakowaniach, awarie skanerów i baterii, braki w obsadzie oraz wolne procedury. Ludzie, którym zależało na pacjentach, zbudowali więc wokół zabezpieczenia własny, nieoficjalny obieg, którego nikt nie nadzorował i który otwierał drogę dokładnie tym pomyłkom, przed którymi zabezpieczenie miało chronić.
Skoro obchodzą je ci, którym zależy na pacjentach, co to mówi o samym zabezpieczeniu?
Pielęgniarki z badania Koppla zachowały się tak, jak dziś w wielu firmach zachowują się pracownicy wobec narzędzi sztucznej inteligencji: sięgają po własne rozwiązanie, bo oficjalne nie mieści się w ich dniu pracy. Teza tego wpisu brzmi, że zakaz tego zjawiska nie zatrzyma, a skutecznie działa dopiero zatwierdzona droga, która jest wygodniejsza od obejścia.
Ile osób już to robi
Verizon w corocznym raporcie o naruszeniach bezpieczeństwa danych (Data Breach Investigations Report) za rok 2026 podaje, że 45 procent pracowników to regularni użytkownicy narzędzi sztucznej inteligencji na służbowych urządzeniach, bez względu na to, czy firma ich do tego upoważniła. Spośród tych użytkowników 67 procent korzysta z kont niefirmowych, a niezatwierdzone narzędzia znalazły się na trzecim miejscu wśród najczęstszych niezłośliwych działań pracowników wykrytych jako zagrożenie wewnętrzne, przy czterokrotnym wzroście w ciągu roku. Najczęściej wysyłanym do zewnętrznych modeli materiałem był kod źródłowy programów, a za nim obrazy i dane uporządkowane.
Wasz odpowiednik kodu źródłowego to umowy z odbiorcami, cenniki, wyniki sprzedaży, arkusze z wynagrodzeniami i życiorysy kandydatów. Liczby Verizona pochodzą z wykrywania wysyłek na urządzeniach firmowych, więc telefon prywatny leżący obok klawiatury nie wchodzi do tego rachunku, a rzeczywista skala jest zapewne większa. Opieram się na tym raporcie, bo mierzy zachowanie w sieci, a odpowiedzi z ankiet zależą od sposobu zadania pytania.
Dlaczego ludzie to robią mimo zakazu
Człowiek ocenia ryzyko po tym, co widzi dzisiaj. Dwadzieścia minut zaoszczędzonych na streszczeniu raportu widać od razu, a wyciek danych, jeśli w ogóle nastąpi, objawi się za pół roku w zupełnie innym miejscu, więc mózg przypisuje mu niewielką wagę. Do tego dochodzi koszt wysiłku: prywatne konto otwiera się w sekundę, a zatwierdzone narzędzie wymaga wniosku, zgody przełożonego i tygodnia oczekiwania.
Działa także norma grupowa. Skoro koleżanka z sąsiedniego biurka robi tak od miesięcy i nic się nie stało, pracownik uznaje praktykę za przyjętą, a zakaz za formalność, którą wydrukowano dla działu prawnego. Zakaz podnosi koszt, ale nie zmienia rachunku zysków, więc zjawisko schodzi pod powierzchnię. Kto wie, że robi coś zabronionego, nie zapyta o radę, nie zgłosi incydentu i nie pochwali się dobrym sposobem, a firma traci to jedyne, co ma w takiej sytuacji do wykorzystania, czyli wiedzę o tym, co się dzieje.
Co realnie ryzykujecie
Dane osobowe klientów i pracowników wklejone do konta prywatnego trafiają do dostawcy, z którym firma nie ma umowy powierzenia przetwarzania, co narusza rozporządzenie o ochronie danych osobowych (RODO). Warunki zależą od planu: w kontach konsumenckich dostawcy mogą wykorzystywać rozmowy do trenowania modeli, jeśli ustawienie jest włączone, a na przykład Anthropic od 2025 roku wydłuża w takim przypadku okres przechowywania do pięciu lat. Plany dla firm i dostęp przez interfejs programistyczny podlegają osobnym umowom, których treść trzeba przeczytać u każdego dostawcy, zamiast zakładać, że wszędzie jest tak samo.
Jest też wątek unijnego rozporządzenia o sztucznej inteligencji. Artykuł 4 nakłada na firmy używające takich narzędzi obowiązek dbania o kompetencje pracowników w tej dziedzinie i obowiązuje od 2 lutego 2025 roku. Zmiany przyjęte w 2026 roku zastąpiły według opracowań prawniczych obowiązek „zapewnienia wystarczającego poziomu” kompetencji obowiązkiem podejmowania działań, które je rozwijają, a wysokość kar ustalają państwa członkowskie. Zatwierdzone narzędzie wraz ze szkoleniem tworzy udokumentowany dowód takich działań, czego nie da się powiedzieć o zakazie, który wszyscy omijają.
Dział kadr jako przypadek szczególny
Najgorzej wygląda ta sytuacja tam, gdzie wklejany tekst zawiera dane ludzi. Rekruterka, która dla oszczędzenia godziny prosi prywatne konto o uszeregowanie dwudziestu życiorysów, łamie jednocześnie dwa przepisy: wysyła dane osobowe kandydatów dostawcy bez umowy powierzenia i używa systemu, który według serwisu informacyjnego Komisji Europejskiej o rozporządzeniu w sprawie sztucznej inteligencji należy do kategorii wysokiego ryzyka (załącznik III, punkt 4a), bo ocenia i szereguje kandydatów do pracy. Ta sama osoba może bez większego ryzyka prosić narzędzie o szkic ogłoszenia, streszczenie regulaminu urlopowego albo uporządkowanie notatek ze spotkania. Granicę warto wyznaczyć działowi kadr osobno i wcześniej niż innym, bo tu cena pomyłki jest najwyższa.
Czego nie zrobi nawet dobrze wybrane narzędzie
Narzędzie z umową biznesową rozstrzyga, gdzie trafiają dane, ale poprawności odpowiedzi nie gwarantuje. Model nadal myli się z pełnym przekonaniem, więc streszczenie umowy, które trafia do klienta, wymaga przeczytania przez człowieka. Blokowanie adresów stron na sieci firmowej działa na laptopach w biurze i omija telefon w kieszeni, więc technika wspiera politykę, ale jej nie zastępuje. Koszt licencji warto zestawić z godzinami, które wasi ludzie już dziś oszczędzają po cichu, bo właśnie ta liczba uzasadni budżet przed zarządem.
Rekomendacja i pierwszy krok na poniedziałek rano
Moja rekomendacja brzmi: udostępnijcie jedno zatwierdzone narzędzie szybciej, niż zdążycie napisać do niego regulamin, a zasady dopracowujcie już w trakcie użytkowania. Pracownik, który w ciągu pierwszego tygodnia dostaje działające konto, przestaje szukać własnego, natomiast ten, który czeka kwartał na zgodę komitetu, ma kwartał na wyrobienie sobie nawyków poza firmą, a zmiana nawyku kosztuje później więcej niż samo narzędzie.
Zacznijcie od pytania zamiast od regulaminu, z wyraźną obietnicą, że odpowiedzi nie posłużą do wyciągania konsekwencji. Obserwacje Koppla pokazują, że obejścia wynikają z kłopotów w pracy, więc pracownicy odpowiedzą szczerze tylko wtedy, gdy nie będą się obawiać kary.
- Roześlijcie krótką anonimową ankietę do 10-15 osób z różnych działów: z jakich narzędzi korzystają, do jakich zadań i jakiego rodzaju dokumenty w nich umieszczają.
- Wybierzcie trzy najczęstsze zadania, na przykład streszczanie dokumentów, tłumaczenie i szkice wiadomości do klientów.
- Wybierzcie jedno narzędzie w planie biznesowym i sprawdźcie w umowie, czy dostawca trenuje modele na waszych danych, gdzie przetwarza dane i czy podpisze umowę powierzenia.
- Napiszcie jednostronicowe zasady, które dzielą dane na trzy grupy: wolno wklejać (materiały publiczne), wolno tylko w zatwierdzonym narzędziu (wewnętrzne), nie wolno wcale (dane osobowe i tajemnice handlowe bez zgody działu prawnego).
- Po miesiącu zmierzcie, jaka część ankietowanych przeszła na zatwierdzone narzędzie, i zapytajcie pozostałych, czego w nim brakuje.
Ostatni krok jest informacją zwrotną o produkcie, który firma właśnie kupiła. Gdy ankieta z kroku pierwszego pokaże, że najczęściej korzystają z narzędzi ci sami ludzie, którzy w ocenach rocznych wypadają najlepiej, zapytajcie siebie, czy chcecie ich zniechęcić, czy nauczyć się od nich, co w waszej firmie dałoby się zrobić szybciej.