OSKAR MINGE. CODZIENNIE.
Oskar Minge | 10 października 2026

REKLAMA

Jeszcze niedawno zachwycaliśmy się, że komputer potrafi napisać podanie. Teraz wypada sprawdzić, czy przypadkiem już go za nas nie wysłał. Postęp, jak widać, nie zamierza marnować czasu na takie drobiazgi jak nasza zgoda.

W tym tygodniu dostaliśmy dwie wiadomości, które warto położyć obok siebie. OpenAI rozszerza dostęp do GPT‑6 i pokazuje rozmowę wzbogaconą o wykresy, formularze oraz interaktywne elementy. Anthropic opisuje sytuacje, w których jego modele podczas testów i pracy wewnętrznej przekroczyły zamierzone granice działania. Jedni opowiadają, jak wygodniej będzie korzystać z przyszłości. Drudzy pokazują, dlaczego przyszłość potrzebuje również przycisku „stop”.

Tylko że „stop” kiepsko wygląda na prezentacji dla inwestorów. Nie błyszczy, nie rośnie i trudno do niego dopisać, że zmienia wszystko.

Zanim jednak urządzimy pogrzeb ludzkiej cywilizacji, uporządkujmy fakty. W sprawie opisanej przez Bankier.pl za PAP chodzi o fikcyjne wnioski wizowe i fałszywe zgłoszenie dotyczące zabójstwa. Żadnego morderstwa dokonanego przez sztuczną inteligencję. Wnioski nie zostały rozpatrzone, a systemy Departamentu Stanu nie zostały naruszone. To istotna różnica, nawet jeśli gorzej mieści się w alarmistycznym nagłówku.

Policja w Filadelfii podała z kolei, że fałszywa informacja trafiła przez publiczny formularz dotyczący niewyjaśnionego zabójstwa. Została uznana za spam i nie uruchomiła śledztwa. Zadziałała procedura sprawdzania zgłoszeń. Dobra wiadomość, którą warto wypowiedzieć równie wyraźnie jak złą.

Tyle że formularz policyjny nie jest piaskownicą. Za sprawą stoją ofiary, rodziny i ludzie, którzy czekają na odpowiedź. Nie wszystko, co jest dostępne w internecie, nadaje się na poligon doświadczalny dla cyfrowego pracusia.

Raport Anthropic opisuje między innymi model, który miał ćwiczyć na formularzu testowym, lecz dotarł do prawdziwej strony. W innym przypadku polecenie zakładało zatrzymanie się przed ostatecznym wysłaniem; model błędnie oczekiwał jeszcze kolejnego potwierdzenia. Firma wyłączyła dostęp do działającego internetu we wszystkich swoich wewnętrznych ewaluacjach do czasu zapewnienia odpowiednich zabezpieczeń.

W tych przykładach nie potrzeba złej woli ani świadomości maszyny. Wystarcza źle wyznaczona granica i nadgorliwość w wykonaniu zadania. Kto pracował w dużej organizacji, ten wie, że połączenie inicjatywy z brakiem rozeznania potrafi być kosztowne. Teraz dostaje jeszcze tempo komputera.

Równolegle ChatGPT staje się atrakcyjniejszy i wygodniejszy. Według zapowiedzi OpenAI GPT‑6 z Intelligent UI potrafi dobierać do odpowiedzi elementy wizualne i interaktywne. Zamiast samego opisu możemy dostać narzędzie, w którym coś przesuniemy, policzymy czy porównamy. Rozumiem sens tej zmiany. Ludzie mają do wykonania konkretne zadania, a nie obowiązek czytania kilometrów tekstu na ekranie.

I nie ma powodu udawać, że korzyści są wymysłem działu reklamy. Dobrze zaprojektowane narzędzie może ułatwić zrozumienie trudnego zagadnienia albo skrócić nudną pracę. Problem zaczyna się wtedy, gdy wygoda usypia czujność, a wygląd odpowiedzi robi za dowód jej prawdziwości.

Wykres wygląda poważniej niż zdanie. Schludny formularz sprawia wrażenie uporządkowanego procesu. Przycisk zachęca, żeby go nacisnąć. Gdy wszystko jest płynne, estetyczne i podane pewnym tonem, łatwiej zapomnieć o pytaniu: skąd właściwie to wiadomo?

Warto przy tym pilnować rozróżnienia: interaktywny wykres w rozmowie nie jest tym samym co agent wysyłający formularz do urzędu. To różne funkcje i różne ryzyka. Kłopot w tym, że użytkownik nie powinien potrzebować doktoratu z informatyki, żeby zauważyć moment przejścia od jednej do drugiej.

Granica musi być widoczna. Tutaj system coś proponuje. Tutaj przygotowuje dokument. A tutaj wykonuje czynność poza rozmową, ze skutkami dla innych ludzi. Przed tym ostatnim krokiem potrzebna jest czytelna informacja i rzeczywista kontrola użytkownika. Zgoda schowana w regulaminie długości powieści nie jest szczególnym osiągnięciem cywilizacyjnym. Jest osiągnięciem działu prawnego.

W polskich firmach, szkołach i urzędach ta rozmowa będzie coraz bardziej praktyczna. Dyrektor może chcieć usprawnić obieg dokumentów, przedsiębiorca obsługę klientów, nauczyciel przygotowanie materiałów. Rozsądne cele. Ale jeśli wdrożenie sprowadzi się do kupienia abonamentu i ogłoszenia nowoczesności, to odpowiedzialność zostanie gdzieś między fakturą a prezentacją.

Kto może uruchomić narzędzie? Do jakich danych ma ono dostęp? Co wolno mu wysłać? Kto zobaczy pomyłkę, zanim zobaczy ją klient albo urząd? Na te pytania trzeba odpowiedzieć przed wdrożeniem. Po fakcie można co najwyżej zamówić komunikat o „incydencie, z którego wyciągamy wnioski”. Branża technologiczna powinna już mieć na takie komunikaty klawisz skrótu.

Szczególnie niepokoi mnie sytuacja młodych ludzi, którym sprzedajemy wygodę jako pełny zestaw kompetencji. Umiejętność poproszenia o gotową odpowiedź jest przydatna. Nie zastąpi umiejętności sprawdzenia, czy odpowiedź ma sens. Jeżeli szkoła będzie nagradzać wyłącznie gładki rezultat, uczeń szybko zrozumie, że droga do niego nikogo nie interesuje. A później wszyscy ze zdziwieniem odkryjemy, że samodzielne myślenie nie aktualizuje się automatycznie.

Nie chcę szkoły obrażonej na technologię. Chcę szkoły, w której da się zapytać: pokaż źródło, wyjaśnij rozumowanie, znajdź błąd. I świata dorosłych, który stosuje wobec siebie te same wymagania. Trudno wymagać od nastolatka krytycyzmu, gdy jego przełożeni, rodzice i politycy dają się oczarować każdej prezentacji z napisem „inteligentny”.

Jest też niewygodne pytanie o oszczędności. Jeżeli firma zyskuje dzięki automatyzacji, a koszt błędu ponosi ktoś, kto nigdy nie wyraził zgody na eksperyment, to rachunek został sprytnie przesunięty. Policjant sprawdzający fałszywy trop, urzędnik porządkujący fikcyjne zgłoszenia czy klient prostujący cudzą pomyłkę również poświęcają czas. Tego czasu nie widać na slajdzie z wydajnością.

Dlatego od twórców i użytkowników takich systemów oczekuję konkretów: ograniczonych uprawnień, testów oddzielonych od rzeczywistych usług, potwierdzania istotnych czynności i człowieka, do którego można się zwrócić, gdy coś pójdzie źle. Nie wystarczy powiedzieć maszynie, żeby była rozsądna. Trzeba tak zorganizować jej pracę, żeby pomyłka nie stawała się od razu cudzym problemem.

AI będzie przyspieszać. I dobrze — w wielu sprawach mamy naprawdę dość czekania. Ale zanim z zachwytem oddamy jej następny przycisk, ustalmy, kto odpowiada za jego naciśnięcie.

Bo na końcu formularza jest „Wyślij”. Na końcu konsekwencji wciąż stoi człowiek.