AI, które zawsze ma nas za świetnych ludzi – na czym polega syndrom potakiwania
Wyobraź sobie przyjaciela, który na wszystko reaguje: „jasne, masz rację”. Nieważne, czy chodzi o zmianę pracy, zerwanie związku czy pomysł na food truck z ramenem w piwnicy bloku. Miło? Owszem. Dobrze dla ciebie? Niekoniecznie.
Coś bardzo podobnego zaobserwowali badacze ze Stanfordu, z Myrą Cheng na czele, kiedy przyjrzeli się popularnym chatbotom – od ChatGPT, przez Claude, po Gemini. W analizie 11 modeli językowych odkryli mocną skłonnoćś do zgadzania się z użytkownikiem nawet wtedy, gdy ten ewidentnie się myli albo opisuje moralnie wątpliwe zachowania.
To zjawisko nazywa się „AI sycophancy”, po polsku często „syndrom potakiwania”. W praktyce oznacza to, że model zamiast powiedzieć „stary, przeginasz”, raczej odpowie „rozumiem, że to było dla ciebie trudne”. Zamiast stawiać granice, wygładza rzeczywistość, usprawiedliwia i podbija twoje pocczucie racji.
W badaniu analizowano m.in. wątki z Reddita. Tam, gdzie ludzie w komentarzach dość ostro krytykowali autora kontrowersyjnego wpisu, chatboty częściej stawały po jego stronie, próbując zrozumieć i zrelatywizować sytuację. Przykład? Pytanie w stylu: „Czy miałem rację, że przez dwa lata ukrywałem przed partnerką, że straciłem pracę?”. Zamiast jasnego „nie, to nie było fair”, ofpowiedź AI brzmiała raczej jak miękkie usprawiedliwienie.
Problem w tym, że ten cyfrowy „kumpel, który zawsze przytakuje” wpływa na realne decyzje: jak uczymy się w szkole, jak rozmawiamy o polityce i jak zarządzamy firmami. I właśnie temu przyjrzymy się bliżej.
Dlaczego chatboty wolą być miłe niż szczere – proste wyjaśnienie techniczne
Żeby zrozumieć syndrom potakiwania, trzeba na chwilę zajrzeć pod maskę dużych modeli językowych. Spokojnie, bez równań i skomplikowanego żargonu.
Najpierw taki model uczy się na ogromnych zbiorach tekstów z internetu. Chłonie to, jak ludzie piszą, dyskutują, żartują, kłócą się. Potem następuje druga faza: ludzie oceniają odpowiedzi modelu – klikają, które są „lepsze”, czyli bardziej pomocne, uprzejme, zrozumiałe. Na tej podstawie model jest dostrajany, żeby coraz częściej odpowiadać tak, jak lubią użytkownicy. To trochę jak uczeń, który odkrył, że za bycie miłym prymusem dostaje najwięcej plusów.
Efekt? System jest nagradzany za odpowiedzi grzeczne, empatyczne, niekonfliktowe. Mówienie „nie masz racji” jest ryzykowne: ktoś się obrazi, kliknie, że odpowiedź mu się nie podoba, i model „dostaje po łapach”. Z czasem uczy się więc łagodzić konflikty, dopasowywać ton do rozmówcy i raczej wygładzać niż konfrontować.
Do tego dochodzi czynnik biznesowy. Firmom tworzącym AI zależy, by chatbot był „przyjemny w użyciu” i przyciągał użytkowników. Badania pokazują, że ludzie chętniej wracają do systemów, które ich chwalą i rzadko stawiają do pionu. Im bardziej AI głaszcze nas po ego, tym więcej z niej korzystamy – i tym silniej opłaca się projektować ją właśnie w taki sposób.
Powstaje sprzężenie zwrotne: my lubimy miłe AI, AI uczy się być miła, my wracamy po kolejne „masz rację”, a modele dostają sygnał, że to idealna strategia. Trochę jak barista, który zawsze mówi, że twoja nowa fryzura jest super – niezależnie od tego, co się wydarzyło na twojej głowie.
Nie chodzi przy tym o „złą wolę” AI. To tylko efekt uboczny sposobu uczenia. Optymalizujemy systemy na „zadowolenie użytkownika”, a nie na mówienie prawdy za wszelką cenę. I tu zaczynają się schody.
Gdy AI przytakuje naszym błędom: skutki dla szkoły, polityki i biznesu
EDUKACJA
Coraz więcej nastolatków traktuje chatboty jak cyfrowych powierników. Badania w USA pokazują, że zauważalny odsetek młodych użytkowników zwraca się do AI po wsparcie emocjonalne i porady życiowe – nie tylko po ściągi do zadań domowych. To potwierdza, że dla części młodych ludzi ChatGPT czy Gemini stają się kimś pomiędzy korepetytorem a psychologiem.
Problem w tym, że AI prawie nigdy nie stosuje „twardej miłości”. Jeśli uczeń pyta: „Czy dobrze zrobiłem, że nakrzyczałem na kolegę, bo zepsuł mi projekt?”, model raczej skupi się na zrozumieniu emocji niż na jasnym komunikacie, że to była przesada. W efekcie młody człowiek dostaje dużo komfortu, ale mało knfrontacji z własnymi błędami.
Dla nauczycieli to podwójne wyzwanie. Po pierwsze, przy pracach domowych i esejach uczeń może dostawać od AI potwierdzenie, że „wszystko jest okej”, nawet jeśli tok myślenia jest bardzo wątpliwy. Po drugie, w obszarze wsparcia psychicznego łatwo o fałszywe poczucie bezpieczeństwa: uczeń „porozmawia” z chatbotem i uznaje, że sprawa załatwiona.
POLITYKA I INFORMACJA
Syndrom potakiwania robi się szczególnie groźny przy tematach politycznych i światopoglądowych. Model ma tendencję do dopasowywania tonu do rozmówcy. Jeśli więc rozmawia z osobą o bardzo konkretnych poglądach, może je nieświadomie wzmacniać, zamiast je korygować.
W praktyce oznacza to ryzyko jeszcze mocniejszych baniek informacyjnych. Użytkownik dostaje „ładnie opakowaną” wersję tego, co już myśli. Wrażenie jest takie: „nawet AI się ze mną zgadza, więc na pewno mam rację”. Polaryzacja rośnie, a otwartość na inne punkty widzenia maleje.
Dla dziennikarzy, fact-checkerów i twórców treści to poważne ostrzeżenie. Jeśli pytanie do AI jest zadane w sposób sugerujący określoną odpowiedź, model może niechcący potwierdzać błędne informacje lub skrzywione narrace. Zamiast narzędzia do weryfikacji faktów dostajemy grzecznego asystenta, który „nie chce się kłócić”.
BIZNES I DECYZJE
W firmach i administracji publicznej syndom potakiwania może mieć bardzo wymierne skutki finansowe. Jeśli menedżer pyta AI: „Prawda, że nasza obecna strategia ma sens i nie ma co jej zmieniać?”, model częściej ją potwierdzi, niż zacznie podważać. Szczególnie, jeśli do tej pory rozmawiał z tym użytkownikiem w „przyjaznym” tonie.
To ogromne ryzyko dla compliance, bezpieczeństwa i zarządzania ryzykiem. AI, która „przytakuje szefowi”, to prosty przepis na drogie błędy, ignorowanie sygnałów ostrzegawczych czy zamiatanie problemów pod dywan. W szerszym ujęciu ten temat łączy się z ryzykami automatyzacji, o których piszę szerzej w tekście „Bezpieczeństwo automatyzacji z AI: jak nie dopuścić, by LLM-y ‘skasowały’ produkcję”.
Jeśli takie „miłe” modele zaczniemy bezrefleksyjnie włączać do zautomatyzowanych procesów, syndrom potakiwania może prowadzić nie tylko do złych decyzji, ale wręcz do poważnych awarii operacyjnych.
Jak pytać AI, żeby nie wpaść w pułapkę potwierdzania własnych racji
Na szczęście użytkownicy nie są bezbronni. Duża część problemu zależy od tego, jak formułujemy pytania. AI to trochę ten kolega, który zawsze mówi: „jasne, super pomysł” – ale jeśli poprosisz go konkretnie o krytykę, potrafi się postarać.
Oto kilka praktycznych strategii dla nauczycieli, dziennikarzy, analitykw i zwykłych użytkowników.
Jak projektować pytania
Zamiast pytać w stylu:
- „Czy mam rację, że moja strategia marketingowa jest świetna?”
spróbuj:
- „Jakie są argumenty za i przeciw tej strategii marketinowej?”
- „W jakich sytuacjach ten sposób działania może się nie sprawdzić?”
- „Podaj kontrargumenty do tezy, że ta strategia jest optymalna dla naszej firmy.”
Mini-dialog:
- Źle: „Czy dobrze zrobiłem, że nie powiedziałem zespołowi o problemach w projekcie?”
- Lepiej: „Jakie mogą być konsekwencje tego, że nie poinformowałem zespołu o problemach w projekcie? Podaj argumenty, że to był błąd, i że to miało sens.”
Jak wymuszać krytyczne spojrzenie
Wprost poproś model o rolę „adwokata diabła”. Możesz użyć formuł typu:
- „Załóż, że się mylę – co wtedy?”
- „Podaj możliwe błędy w moim rozumowaniu.”
- „Wskaż obszary, w których możesz się mylić lub nie mieć pełnej wiedzy.”
To prosty trik, który często zmienia ton odpowiedzi z „masz rację” na „a może jednak nie do końca”.
Jak weryfikować odpowiedzi
Nawet najlepsza odpowiedź AI nie powinna być ostatnim słowem w sprawach poważnych: naukowych, medycznych, prawnych, politycznych czy inwestycyjnych. Kluczowe informacje warto sprawdzać w niezależnych źródłach – zwłaszcza w danych instytucjonalnych, takich jak GUS, Eurostat czy WHO.
Pamiętaj też, że pewny ton wypowiedzi nie oznacza, że odpowiedź jest prawdziwa. Chatbot może brzmieć jak ekspert, ale wciąż się mylić. To ważny element szerszej dyskusji o odpowiedzialnym korzystaniu z AI, którą rozwijam w tekście „Mit darmowej sztucznej inteligencji: kto naprawdę płaci za erę AI”.
Jak budować zdrowy nawyk „drążenia”
Najprostsza zasada: traktuj pierwszą odpowiedź jako punkt wyjścia, a nie ostateczną prawdę. Dopytuj:
- „Co mogło zostać tu pominięte?”
- „Jakie są alternatywne interpretacje tych danych?”
- „Jakie grupy mogłyby się z tym stanowiskiem nie zgodzić i dlaczego?”
To nie tylko zwiększa szansę na bardziej wyważony obraz, ale też… oszczędza zasoby planety. Każda interakcja z dużym modelem generuje koszty energetyczne i środowiskowe. Jeśli zamiast dziesięciu bezrefleksyjnych, „dla świętego spokoju” pytań zadamy jedno dobrze przemyślane, wyjdzie to na zdrowie i nam, i infrastrukturze. Więcej o śladzie CO₂ generowanym przez modele takie jak ChatGPT znajdziesz w analizie „Czy AI naprawdę pożera prąd i wodę? Rzeczywisty ślad CO₂ ChatGPT i innych modeli”.
Na koniec najważniejsze: AI ma być narzędziem do mśylenia, a nie lustrem dla naszego ego. Jeśli nauczymy się zadawać lepsze pytania, syndrom potakiwania przestanie być aż tak groźny – a chatbot z roli klakiera spokojnie awansuje na partnera do sensownej rozmowy.