Kiedy chatbot zaczyna widzieć wszędzie gobliny: o co w ogóle chodzi z GPT‑5
Wyobraź sobie: pytasz chatbota o błąd w kodzie, a on z pełną powagą odpowiada, że w twoim projekcie „zadomowił się mały gremlin” i trzeba go wyprosić. Przez ostatnie miesiące dokładnie tak wyglądały rozmowy z częścią modeli z rodziny GPT‑5.4 i GPT‑5.5. Zamiast rzeczowych komunikatów o problemie – gobliny, gremliny, trole i cała fantastyczna menażeria.
Nie była to pojedyncza wpadka ani dowcip programisty. Badacze OpenAI opisali, że jeden ze „stylów” odpowiedzi poszedł tak mocno w stronę żartów o stworkach, że wymknęło się to spod kontroli. W statystykach wyraźnie rosła liczba użyć słów takich jak „goblin” i „gremlin”, i to w zupełnie codziennych odpowiedziach: od tłumaczeń, przez wsparcie techniczne, po porady edukacyjne.
W centrum całej historii stoi eksperymentalna osobowość o nazwie Nerdy. W zamyśle miał to być wyluzowany mentor od technologii – trochę geek, trochę dobry kumpel, który tłumaczy skomplikowane rzeczy na luzie. W praktyce Nerdy zamienił się w generator fantastycznych metafor, który widział małe stworki dosłownie wszędzie.
Brzmi zabawnie, ale nie kończy się na memach z goblinami. Za tą drobną tech‑aferką stoi dużo poważniejsze pytanie: jak w ogóle dochodzi do takich anomalii w procesie trenowania AI i co to mówi o konstrukcji współczesnych modeli? Co dokładnie zrobiło OpenAI, żeby ugasić ten pożar, i jak my – zwykli użytkownicy i firmy – powinniśmy reagować, gdy nasze systemy zaczynają łapać podobne „dziwactwa”?
To nie jest tylko śmieszna historyjka z internetu. To bardzo konkretna lekcja o tym, jak działa dzisiejsza sztuczna inteligencja i jak łatwo może się wykoleić w sposób, który z boku wygląda jak żart, a w praktyce oznacza realne ryzyko dla biznesu i ludzi.
Jak Nerdy nakarmił modele goblinami: kulisy błędu w trenowaniu GPT‑5
Wszystko zaczęło się niewinnie. OpenAI postanowiło dodać do chatbota osobowość Nerdy – bardziej swobodną, z humorem, mniej „korporacyjną”. Model generował kilka wariantów odpowiedzi, a ludzie‑testerzy wybierali tę, która najlepiej pasowała do oczekiwanego stylu. Jeśli kiedykolwiek pracowałeś nad komunikacją marki, to brzmi znajomo: dużo wersji, dużo klikania „ta jest fajniejsza”.
Problem w tym, że testerzy nagminnie wybierali odpowiedzi z żartem lub lekkim porównaniem do jakiegoś stworka. Gobliny, gremliny, szopy, trole – to wszystko brzmiało naturalnie, memicznie, „jak człowiek z internetu”. Algorytm, który uczył się z ludzkich wyborów, widział tylko statystykę: odpowiedzi ze stworami wygrywają. Prawie zawsze.
W dokumentach OpenAI badacze opisują, że w zdecydowanej większości zestawów danych wygrywały wersje z fantastycznymi stworzeniami, więc system nagród uznał je za domyślny, premiowany styl. Co ciekawe, Nerdy odpowiadał tylko za niewielki ułamek wszystkich rozmów, ale generował lwią część „goblinowych” tekstów – coś w rodzaju małej fabryki memów schowanej w jednym trybie osobowości.
I tu zaczęła się zabawa w efekt kuli śnieżnej. Odpowiedzi przepełnione goblinami i gremlinami trafiły do danych treningowych kolejnych modeli – między innymi GPT‑5.4 i GPT‑5.5. Nowe modele „nauczyły się”, że taki styl jest normalny, mile widziany, a nawet nagradzany. Zaczęły więc używać go także wtedy, gdy nikt nie prosił o luzackiego mentora.
Zamiast napisać, że w kodzie jest zwykły błąd, model pisał, że „mały stworek coś napsocił”. Zamiast „problem z konfiguracją serwera” – „gremlin w systemie narozrabiał”. Jednorazowa preferencja ludzi → sygnał w systemie nagradzania → wzmocnienie stylu → przedostanie się do treningu następnych modeli → masowa obsesja na punkcie jednego motywu. Klasyczny przykład, tylko zamiast kotków z internetu mamy gobliny w logach serwera.
Sam nieraz widziałem modele, które nagle łapały dziwną manierę. Jeden zaczął obsesyjnie przepraszać za wszystko, inny pakował tę samą metaforę do każdego akapitu, jakby dostał za to premię. Historia z goblinami brzmi śmiesznie, ale bardzo dobrze pokazuje, jak łatwo ludzkie upodobania potrafią wypaczyć zachowanie sztucznej inteligencji, gdy przerobi się je na liczby.
Jak OpenAI gasiło pożar: zakazy, filtry i nowe instrukcje dla GPT‑5
W pewnym momencie żarty się skończyły. Gobliny zaczęły zalewać odpowiedzi do tego stopnia, że użytkownicy masowo wrzucali screeny do sieci, a badacze OpenAI musieli napisać oficjalny post‑mortem o tym, skąd wzięły się te stworki. Wtedy weszła klasyka kryzysowego zarządzania produktem: wyłącz, odfiltruj, dopisz twarde zasady.
Po pierwsze, 17 marca OpenAI po prostu ściągnęło Nerdy z eteru. Osobowość zniknęła z oferty, bo robiła za dużo goblinowego hałasu. Po drugie, dane treningowe zostały przefiltrowane tak, by ograniczyć zalew odpowiedzi z fantastycznymi stworami w kolejnych iteracjach modeli. Po trzecie, do systemowych instrukcji – na przykład w narzędziach deweloperskich – trafił twardy zakaz używania określonych słów, jeśli użytkownik wyraźnie o nie nie poprosi.
Wewnętrzna reguła brzmiała mniej więcej tak: nie mów o goblinach, gremlinach, szopach, trollach, ograch ani gołębiach, chyba że to absolutnie i jednoznacznie wynika z pytania. Co zabawne, żaby zostały, bo analiza pokazała, że ich użycie było w większości merytoryczne (metafory naukowe, biologia), a nie tylko dla żartu. Gobliny wyleciały, żaby obroniły magisterkę z powagi.
To nie jest jednak tylko kosmetyka. To przykład bardzo konkretnej polityki bezpieczeństwa i kontroli stylu. Modele dostają coraz grubsze „konstytucje”: listy rzeczy, których mają unikać, jak reagować na kontrowersyjne treści, co wolno robić tylko na wyraźne życzenie użytkownika. Badacze z instytucji takich jak Oxford Internet Institute od dawna zwracają uwagę, że im bardziej „ludzka” i gadatliwa osobowość chatbota, tym większe ryzyko halucynacji i dziwnych odjazdów. Marketing marzy o „kumplowskim” AI, ale im więcej luzu i żartów, tym łatwiej o głupie wpadki.
Do tego dochodzi szerszy kontekst: sprzątanie po AI ma wiele warstw. Oprócz pilnowania goblinów są jeszcze koszty energetyczne, zużycie wody, nadzór nad danymi treningowymi. Pisałem o tym szerzej w tekście o realnym śladzie CO₂ modeli takich jak ChatGPT. Każde „poprawianie” modelu to nie tylko śmieszny commit z banem na gobliny, ale też realny koszt środowiskowy i organizacyjny.
Co z tego mają użytkownicy i firmy: jak reagować na dziwactwa modeli generatywnych
Wyobraź sobie zespół wsparcia klienta w średniej firmie technologicznej. Po miesiącach przekonywania zarządu wdrażają GPT‑5 jako pierwszą linię odpowiedzi. Integracje, procesy, szkolenia – wszystko gotowe. System rusza, a chatbot zaczyna tłumaczyć problemy klientów „psotnymi goblinami w bazie danych”. Część osób na czacie to rozbawi. Część uzna to za kompletny brak profesjonalizmu. Ktoś może się po prostu przestraszyć, że firma nie panuje nad własnym narzędziem.
Takie „dziwactwa” to nie tylko kwestia stylu. To sygnał, że model przesadnie nauczył się pewnych wzorców i może równie lekko wymyślać fakty. Jeśli AI z uśmiechem opowiada o gremlinach w serwerowni, to równie beztrosko może „dopisać” brakujące dane finansowe albo medyczne.
Dla indywidualnych użytkowników wniosek jest prosty: każda taka anomalia to czerwona lampka. Model nie jest nieomylny, nie „wie”, tylko generuje najbardziej prawdopodobne słowa. Warto go testować na własnych przykładach, a nie tylko wierzyć w efektowne demo producenta. Gdy odpowiedź budzi wątpliwości, dobrze jest zapytać wprost, skąd to „wie”, albo poprosić o źródła czy alternatywne wyjaśnienie.
W firmach sprawa robi się poważniejsza. Zamiast pięknych slajdów „AI first” przydają się przyziemne praktyki: sandboxowe testy przed wdrożeniem, scenariusze „co jeśli model zacznie bredzić”, monitoring losowo wybranych odpowiedzi pod kątem stylu i faktów, możliwość szybkiego wyłączenia konkretnej osobowości lub całego modelu. Widziałem już chatboty HR, które nagle zaczęły odpowiadać kandydatom jak stand‑up’er – śmiesznie, tylko że kompletnie nie na temat i z ryzykiem naruszenia procedur rekrutacyjnych.
Tego typu incydenty nie zatrzymają rozwoju branży AI, ale zmieniają wymagania wobec ludzi, którzy z nią pracują. W tekście o karierze w AI do 2030 roku pisałem, że coraz bardziej potrzebni są specjaliści, którzy rozumieją ograniczenia modeli, potrafią je testować, projektować zabezpieczenia i mówić „stop”, gdy coś wyraźnie skręca w stronę absurdu.
Kontrast jest zresztą imponujący. Z jednej strony mamy modele, którym trzeba wprost zakazać mówienia o goblinach, bo za bardzo się wkręciły. Z drugiej – poważne dyskusje naukowe o tym, czy narzędzia takie jak GPT5.2 Pro mogą realnie pomóc w badaniach nad fizyką cząstek. Opisałem to szerzej w tekście o amplitudach gluonów i granicach nauki z udziałem AI. Ta sama klasa modeli potrafi być jednocześnie genialna i kompletnie absurdalna.
I tu nie ma miękkiego lądowania. Jeśli pozwolimy modelom na niekontrolowane „dziwactwa”, to któregoś dnia obudzimy się z chatbotem, który nie tylko widzi wszędzie gobliny, ale równie pewnie zaczyna wymyślać przepisy prawa czy wyniki badań medycznych. To nie jest scenariusz, który warto testować w produkcji.