Są dwa realne problemy związane z zachowaniem współczesnych modeli językowych: model potrafi nadmiernie przytakiwać użytkownikowi i potrafi na siłę sklejać ze sobą kolejne wątki rozmowy. Nie da się tego zwalczyć poprzez wykreowanie persony konfiguracyjnymi promptami.

REKLAMA

Persona może te błędy wzmacniać, ale ich źródło jest głębsze. Model z definicji dostaje kontekst wcześniejszej rozmowy i próbuje wygenerować odpowiedź, która będzie z nim spójna. Czasem przesadza i zamiast uznać, że temat został zmieniony, zaczyna budować sztuczny most między tematami z sesji. To bardziej problem nadmiernej koherencji niż samej persony.

Podobnie jest z kadzeniem. To znany problem. Model, zamiast powiedzieć: „to jest błędne”, próbuje być pomocny, zgodny i miły, więc opakowuje bzdurę w ciekawą intuicję. Persona może z tego zrobić groteskę, ale nie tworzy problemu od zera. Bo oprócz opisu persony, który tworzy użytkownik, istnieją jeszcze instrukcje nadrzędne, polityki bezpieczeństwa, filtry i inne mechanizmy sterujące zachowaniem publicznego chatbota. Choćby po to, żeby nie pomagał konstruować bomby, nie zamieniał się w narzędzie do włamań albo w całkowicie pozbawionego ograniczeń oficera OSINT. Ostatnio przy badaniach białowywiadowych wyraźnie się na to natknąłem.

Suchy model, który wszystko daje w punktach, też może bredzić — tylko bardziej elegancko. Może wypisać pięć punktów, z których każdy wygląda analitycznie, a całość nadal będzie oparta na fałszywym albo ukrytym założeniu. Format punktowy ogranicza lanie wody, ale nie gwarantuje poprawnego rozumowania.

Kluczowe rozróżnienie jest moim zdaniem takie, że personalizacja powinna zmieniać formę odpowiedzi, a nie fakty. Model może wiedzieć, że użytkownik lubi ironię, krótkie odpowiedzi albo techniczne przykłady. Nie powinien jednak z tego powodu zmieniać oceny rzeczywistości ani na siłę dopasowywać nowych tematów do starych rozmów.

Problemem nie jest samo to, że AI pamięta, iż użytkownik wcześniej opowiadał kawały, tylko to, czy potrafi odróżnić informację istotną dla nowego pytania od przypadkowego tła. W publicznie dostępnym chatbocie nigdy nie dostaje się po prostu czystego modelu. Dostaje się cały produkt zbudowany wokół modelu, z instrukcjami systemowymi czy mechanizmami bezpieczeństwa. Naprawdę surowy model można sobie uruchomić lokalnie, ale przy domowym sprzęcie będzie on zawsze dużo słabszy od najnowszych modeli publicznych czy też od lokalnych agentów korzystających z publicznych API.

Świetnie pokazuje to niedawna rewolucja matematyczna. Matematycy korzystający z publicznych Codexów i Claude’ów potrafią z nimi dojść bardzo daleko, ale laboratorium OpenAI czy Anthropic może zrobić coś, czego zwykły użytkownik nie zrobi: uruchomić niepubliczny model, dać mu ogromny budżet tokenów, postawić tysiące agentów równolegle, pozwolić im wzajemnie sprawdzać wyniki i przez kilka dni mielić jeden problem. OpenAI przy problemie Naviera–Stokesa użyło około 10 tysięcy agentów i około 130 miliardów tokenów. To już nie jest „pogadałem sobie z chatbotem”, tylko właściwie sztuczny instytut matematyczny.

Wokół tego powstał niedawno ciekawy spór. Matematyk pracujący w Anthropic prowadził własne badania, korzystając między innymi z Codexa i Claude’a. Potem OpenAI przedstawiło swoje rozwiązanie podobnego problemu i matematyk zaczął publicznie pytać, czy firma nie skorzystała pośrednio z informacji pochodzących z jego wcześniejszej pracy z jej narzędziami. OpenAI temu zaprzecza, choć przyznało, że nie może całkowicie wykluczyć, iż zanonimizowane dane z używania produktów wcześniej pomagały ulepszać modele.

Model, który dostaje użytkownik w okienku czatu, i możliwości laboratorium, które ten model stworzyło, to dwie zupełnie różne rzeczy. Dopiero to drugie można uznać za dostęp do naprawdę czystego modelu. Nie tylko z powodu persony czy filtrów, lecz przede wszystkim z powodu dostępu do samego modelu, infrastruktury, narzędzi, mocy obliczeniowej i możliwości organizowania tysięcy jego instancji w jeden system.

Niemniej nadrzędne filtry i dodatkowy trening są tu ważne. Przeprowadzono wiele badań pokazujących, że modele pozbawione post-treningu bezpieczeństwa rozumowały dużo lepiej niż te z tym dodatkowym treningiem. Jednak takich modeli nie można upublicznić, bo bardzo szybko mogłyby pomagać w zbudowaniu bomby atomowej albo we włamaniach. Można więc wysnuć przewrotną teorię, że niemoralny psychopata jest mądrzejszy od ludzi wychowanych na Dekalogu.