Kiedy rozmowa z chatbotem kończy w aktach sprawy karnej
Późny wieczór, laptop na kolanach, kawa już dawno wystygła. Ktoś siedzi przed ekranem i pisze do ChatGPT: o toksycznym związku, o długach, o tym, że „gdyby tak po prostu wszystko zniknęło…”. Albo dopytuje bardzo konkretnie, jak pozbyć się problemu, który coraz bardziej przypomina plan przestępstwa. W głowie jedna myśl: to przecież tylko rozmowa z robotem, nikt tego nie czyta.
Kilka tygodni później ten sam tekst leży wydrukowany w papierowej teczce, spięty metalową zszywką. Przed prokuratorem, przed sądem, czasem przed ławą przysięgłych. Nie jako ciekawostka technologiczna, ale jako kluczowy dowód.
To już nie scenariusz serialu kryminalnego, tylko szara rzeczywistość. W głośnej sprawie zabójstwa dwojga studentów Uniwersytetu Południowej Florydy śledczy opisali w dokumentach sądowych, że podejrzany kilka dni przed zbrodnią pytał ChatGPT, co się stanie, gdy człowieka włoży się do czarnego worka i wyrzuci do kontenera. Później dopytywał jeszcze, jak można wykryć takie przestępstwo. Te logi rozmów stały się jednym z filarów aktu oskarżenia.
To nie jest jedyny przypadek. W innej sprawie o podpalenie w Los Angeles do akt trafił zapis rozmowy z chatbotem, w której podejrzany analizował szczegóły podłożenia ognia. W procesie o morderstwo w Wirginii bardzo podobną rolę odegrała konwersacja z AI wbudowaną w komunikator społecznościowy. Schemat jest ten sam: pytania wpisane kilka dni przed przestępstwem, miesiące później odczytywane głośno na sali rozpraw.
Dla organów ścigania to wymarzony materiał. Masz pełne, datowane wypowiedzi podejrzanego, jego rozterki, plany, czasem emocjonalne wybuchy. Cyberbezpiecznik i prawnik Ilia Kolochenko mówi wprost, że komunikacja z chatbotami to „skarb dla służb” – ludzie wierzą w anonimowość, więc pytają wprost, bez owijania w bawełnę. Prawniczka Virginia Hammerle dodaje, że w jej kancelarii przyjęto prostą zasadę: wszystko, co klient wpisze do ChatGPT, traktuje się tak, jakby jutro mogło wylądować w materiałach dowodowych.
Historyk i doradca Nils Gilman formułuje to jeszcze ostrzej: ChatGPT nie jest twoim przyjacielem, nie jest twoim prawnikiem ani lekarzem. Użytkownicy mylą algorytm z zaufaną osobą, stąd ta brutalna szczerość. A skoro czaty lądują w sądzie, naturalne pytanie brzmi: czemu nie chroni ich żadna tajemnica zawodowa i co z tego wynika dla zwykłych ludzi, prawników i działów compliance.
Dlaczego ChatGPT nie ma „tajemnicy zawodowej” jak lekarz czy prawnik
Wyobraź sobie dwie sceny. W pierwszej siedzisz w kancelarii i mówisz adwokatowi rzeczy, których nie powiedziałbyś nawet najlepszemu przyjacielowi. W drugiej robisz to samo w okienku czatu z AI. Emocje podobne, poziom szczerości też. Status prawny? Kompletna przepaść.
Tajemnica zawodowa to bardzo stare narzędzie ochrony zaufania. Prawnik nie może swobodnie opowiadać w sądzie, co usłyszał od klienta. Lekarz nie może sobie tak po prostu ujawnić twojej historii choroby. Psycholog nie biegnie na policję z każdą mroczną myślą pacjenta. Są wyjątki – na przykład gdy ktoś otwarcie planuje poważne przestępstwo – ale co do zasady ta relacja jest chroniona specjalnymi przepisami.
Do tego dochodzi przywilej małżeński: w wielu systemach prawnych współmałżonek może odmówić składania zeznań przeciwko tobie. Prosta wersja: to, co powiesz żonie lub mężowi przy kolacji, nie staje się automatycznie materiałem dla prokuratora.
A teraz wersja z chatbotem. Jeśli w nerwach napiszesz do ChatGPT: „Rozważam oszustwo podatkowe, jak to się robi?” – nie ma żadnej tajemnicy zawodowej. Nie istnieje przepis, który zakazuje wykorzystania tej treści przed sądem. To po prostu dane elektroniczne, tak samo jak e‑maile, logi wyszukiwań czy historia lokalizacji telefonu.
ChatGPT nie jest osobą. Nie ma dyplomu, nie należy do samorządu zawodowego, nie podlega kodeksowi etyki lekarzy czy adwokatów. To infrastruktura dostarczana przez firmę technologiczną. W praktyce – w USA, w Unii Europejskiej i innych jurysdykcjach – jeśli prokuratura albo sąd zażądają wydania zapisów rozmów, firma ma prawny obowiązek je udostępnić, o ile spełnione są wymogi procedury.
Przedstawiciele OpenAI mówią o tym już całkiem otwarcie. Sam Altman przyznał, że użytkownicy opowiadają ChatGPT najbardziej osobiste historie, trochę jak terapeucie albo spowiednikowi, ale prawo tej roli w ogóle nie rozpoznaje. Firma nie ma specjalnego „przywileju poufności” wobec sądu. Może oferować tryby o podwyższonej ochronie danych – na przykład w obszarze zdrowia – i obiecywać, że takie konwersacje nie posłużą do dalszego trenowania modeli, ale jeśli przyjdzie stosowne postanowienie sądu, adresatem nadal będzie korporacja, a nie cyfrowy lekarz.
Prawo wciąż jest napisane dla ludzi, nie dla botów. Użytkownik, który traktuje AI jak zaufanego profesjonalistę, działa na własne ryzyko. I to spore.
Jakie ryzyka biorą na siebie użytkownicy i co to znaczy dla prawników oraz działów compliance
Wyobraź sobie prawnika, który ma napięty termin i w biegu wkleja do ChatGPT fragment poufnej opinii z nazwiskami, kwotami i opisem sporu. „Streść mi to po ludzku, na jedną stronę”. Albo klienta, który pisze: „Od kilku lat jadę na kreatywnej księgowości, co mi grozi?”. To nie jest teoretyczny scenariusz. Dokładnie takie logi już dziś trafiają do organów ścigania, gdy przychodzi wezwanie o wydanie danych.
Dla zwykłego użytkownika ryzyk jest przynajmniej kilka. Pierwsze to samooskarżenie. Jeśli w czacie przyznajesz się do przestępstwa, opisujesz szczegółowo plan, grozisz komuś albo szukasz dostawcy narkotyków, treść tej rozmowy może zostać później odczytana przeciwko tobie. I będzie miała datę, godzinę, kontekst. Nie trzeba biegłego grafologa, wszystko jest czarno na białym.
Drugie to korelacja z innymi danymi. Czat nie żyje w próżni. Zapis rozmowy można powiązać z IP, z kontem użytkownika, z numerem telefonu, transakcją karty płatniczej, a nawet z lokalizacją urządzenia. To nie jest anonimowy notes w szufladzie.
Trzecie – iluzja anonimowości. „To tylko pytanie do robota, co mnie to obchodzi” – ten mechanizm pojawia się zaskakująco często. W rozmowie z człowiekiem większość osób zatrzymałaby się po pierwszym zdaniu, przy chatbotach puszczają hamulce.
Ryzyka rosną jeszcze bardziej w biznesie. Pracownik wrzuca do AI projekt umowy M&A, listę pracowników z oceną ich efektywności, dane pacjentów z systemu szpitalnego albo wewnętrzną strategię firmy. W jednym ruchu powstaje problem prawny (naruszenie RODO, ujawnienie tajemnicy przedsiębiorstwa), wizerunkowy i dowodowy. Jeśli dojdzie do sporu sądowego, ten sam materiał może zostać wykorzystany nie tylko przeciwko pracownikowi, ale również przeciwko pracodawcy.
W przypadku danych zdrowotnych stawka jest szczególnie wysoka. Jeśli ten temat cię interesuje, zajrzyj do tekstu o bezpiecznym korzystaniu z medycznych chatbotów i rozmowach z AI o objawach chorób – tam rozwijam ten wątek szerzej.
Tu dochodzi jeszcze inny niuans. Modele generatywne bywają używane również do pracy z wrażliwymi danymi podróżnych – od planów podróży po informacje o stanie zdrowia na wyjeździe. Jeśli ktoś przed wylotem planuje budżet, porównuje ceny hoteli w serwisie podróżniczym albo sprawdza klimat i bezpieczeństwo kierunku, a potem część tych danych bezrefleksyjnie kopiuje do ChatGPT, cała ta układanka przestaje być anonimowa.
Przyznam, że sam kilka razy złapałem się na odruchu „wkleję cały mail od klienta, niech AI mi to ogarnie w trzy punkty”. Kursor już wisiał nad Ctrl+V, a potem przyszła trzeźwa myśl: czy naprawdę chcę, żeby ta wiadomość krążyła jeszcze gdzieś indziej i potencjalnie pojawiła się kiedyś w jakimś dziwnym kontekście? Ten moment lekkiego zawahania to dobra lampka ostrzegawcza.
Co firmy powinny zmienić w politykach compliance i RODO w erze rozmów z AI
Jeśli w waszej organizacji polityka bezpieczeństwa IT nadal kończy się na zakazie „używania prywatnego maila w pracy”, to jesteście parę lat za rzeczywistością. ChatGPT, Gemini i cała reszta weszły już na stałe do codziennej pracy. Ludzie będą z nich korzystać, niezależnie od tego, co stoi w slajdach z prezentacji o bezpieczeństwie.
To oznacza, że trzeba w końcu jasno napisać, jakie dane można, a jakich nie wolno wklejać do zewnętrznych chatbotów. Dane osobowe klientów, informacje o zdrowiu, numery dokumentów, poufne raporty finansowe, detale projektów M&A – to nie powinno lądować w publicznym modelu językowym bez bardzo dobrego powodu i bez umowy regulującej przetwarzanie danych. Granice muszą być konkretne, z przykładami, a nie w stylu „nie nadużywaj narzędzi AI”.
Obok tego warto dopisać do regulaminów pracy zdalnej i BYOD zasady dla AI. Co wolno robić na prywatnym laptopie, który łączy się z firmowymi systemami? Czy można z niego odpalać generatory treści na bazie służbowych dokumentów? Jak traktować dane, które ktoś przepuścił przez czat przy okazji „szybkiej podpowiedzi do prezentacji”. Brak odpowiedzi jest też odpowiedzią – tylko że później usłyszy ją sąd.
Jeżeli firma realnie korzysta z ChatGPT w procesach biznesowych, temat musi się pojawić w rejestrze czynności przetwarzania danych. Kancelaria, która wrzuca do chatbota nazwiska stron sporu i opis roszczeń, w praktyce przekazuje te dane podmiotowi trzeciemu. Potrzebna jest podstawa prawna, cel, określony czas przechowywania, sposób informowania osób, których dane dotyczą. To już hardcore’owe RODO, a nie niewinna zabawka technologiczna.
Coraz więcej podmiotów testuje też wersje enterprise dużych modeli językowych, z wyższym poziomem ochrony danych, hostowanych on‑premise albo w odseparowanej chmurze. To dobry kierunek, pod warunkiem że towarzyszą mu solidne umowy, audyty i procedury. Nie wystarczy nakleić etykietkę „bezpieczne, bo w chmurze korporacyjnej”.
Dla compliance ważne jest też to, że zachowanie modeli zmienia się dynamicznie. Dziś chatbot odmawia podpowiadania kontrowersyjnych treści reklamowych, jutro po aktualizacji już reaguje inaczej. Opisywałem to na przykładzie tekstu o wycofywaniu kontrowersyjnych sugestii w ChatGPT w kontekście reklamy. Polityki firmy muszą nadążać za tymi zmianami – raz ustawione zasady na lata to dziś fikcja.
A za rogiem czeka kolejny poziom ryzyka. W artykule o systemach pokroju Auto‑GPT opisuję, jak autonomiczne agentowe AI potrafi nie tylko rozmawiać, lecz także samodzielnie podejmować kroki w sieci. To otwiera zupełnie nowy katalog problemów dowodowych: kto odpowiada za działania takiego agenta, jakie logi są przechowywane, jak je później interpretować w postępowaniu sądowym.
Polityki compliance nie mogą więc sprowadzać się wyłącznie do surowych zakazów. Potrzebne są krótkie, życiowe wytyczne, szkolenia z konkretnymi przykładami „z sali sądowej” i proste testy świadomości dla pracowników. Jeśli firma ma budżet na integrację AI w produktach i procesach, powinna mieć też budżet na aktualizację bezpieczeństwa i zgodności. Inaczej nowe technologie przetestuje przede wszystkim w roli pozwanego, nie innowatora.