Dlaczego Twój numer telefonu może trafić do ChatGPT, choć nigdy go nie wpisałeś
Wyobraź sobie, że pewnego dnia otrzymujesz telefon od nieznanej firmy. Konsultant wie, jak się nazywasz, zna nazwę Twojej firmy i orientuje się w produktach, z których korzystasz. Nigdy nie podawałeś mu tych informacji. Co więcej, sam nigdy nie logowałeś się do żadnego czatu z AI. A jednak Twój numer telefonu i fragment Twojej historii zawodowej krążą w systemach opartych na modelach takich jak ChatGPT.
Nie jest to scenariusz rodem z filmu science fiction, lecz coraz bardziej realistyczny obraz świata, w którym technologie generatywnej sztucznej inteligencji przenikają codzienną komunikację i procesy biznesowe. Kluczowe w tym zjawisku jest to, że problem nie wynika z klasycznego „włamania” czy spektakularnego wycieku danych. Zamiast tego, dane osób trzecich trafiają do modeli AI, ponieważ inni użytkownicy sami je tam umieszczają: wklejając listy kontaktów, fragmenty maili, historię czatów, eksporty z CRM-ów czy pliki z notatkami o klientach.
Podczas gdy użytkownik, który przesyła takie informacje, skupia się na wygodzie („niech AI uporządkuje mi kontakty”, „niech podsumuje korespondencję z klientem”), w tle dochodzi do wprowadzenia do systemu całej kolekcji danych osobowych – często bez wiedzy i zgody osób, których one dotyczą. Coraz więcej badań z obszaru cyberbezpieczeństwa i ochrony danych pokazuje, że w ten sposób modele AI mogą być „karmione” bardzo szczegółowymi informacjami o osobach trzecich, które nigdy świadomie nie zetknęły się z daną usługą.
Eksperci cytowani m.in. przez serwisy branżowe takie jak pcmag.com zwracają uwagę, że ten mechanizm stawia pod znakiem zapytania dotychczasowe rozumienie zgody na przetwarzanie danych i realnej kontroli nad nimi. Klasyczne podejście zakładało, że to użytkownik decyduje, w jakiej usłudze pozostawia swój numer telefonu czy adres e‑mail. Tymczasem w świecie generatywnej AI dane mogą trafić do modelu zupełnie „bocznym wejściem” – dzięki temu, że ktoś inny uznał je za przydatny kontekst do rozmowy z czatem.
To nie jest problem jednego narzędzia, jednego dostawcy czy konkretnej aplikacji. To zjawisko dotyka całej klasy modeli generatywnych – od popularnych chatbotów, przez asystentów biurowych, po systemy zintegrowane z wyszukiwarkami internetowymi i platformami komunikacyjnymi. W efekcie każdy z nas może stać się „dostawcą danych” do modeli AI, nawet jeśli nigdy nie kliknął przycisku „Zgadzam się” przy polityce prywatności danego narzędzia.
W takim otoczeniu kluczowe staje się zrozumienie, jak działają modele językowe, skąd biorą dane o użytkownikach, jakie ryzyka prawne i etyczne się z tym wiążą – oraz co mogą zrobić zarówno osoby prywatne, jak i firmy, aby ograniczyć niekontrolowany obieg danych.
Jak działają modele generatywne i skąd biorą dane o użytkownikach
Model językowy, taki jak ChatGPT, to rodzaj programu komputerowego, który uczy się przewidywać kolejne słowa w tekście na podstawie ogromnych zbiorów danych. W praktyce oznacza to trenowanie na miliardach zdań pochodzących z różnych źródeł: stron internetowych, artykułów, forów dyskusyjnych, dokumentów czy otwartych repozytoriów tekstu. Dzięki temu model „uczy się” statystycznych wzorców języka i potrafi generować odpowiedzi przypominające naturalną wypowiedź człowieka.
W tym procesie można wyróżnić dwa główne strumienie danych. Pierwszy to dane z publicznie dostępnych źródeł – treści, które są jawnie opublikowane w internecie, na przykład publiczne strony WWW czy otwarte fora. Drugi strumień, coraz ważniejszy z perspektywy prywatności, to dane wprowadzane przez samych użytkowników w trakcie korzystania z narzędzi AI: pytania (prompty), treści rozmów, załączone dokumenty, zrzuty ekranu, kopiowane maile czy eksporty z systemów firmowych.
Część dostawców deklaruje, że dane użytkowników są odseparowane od trenowania modeli produkcyjnych, a treści z czatów służą wyłącznie do świadczenia usługi i zapewnienia bezpieczeństwa. W praktyce jednak takie dane mogą być wykorzystywane do poprawy jakości odpowiedzi, analizy nadużyć, monitorowania bezpieczeństwa, a w środowiskach testowych lub badawczych – także do dalszego uczenia modeli. Kluczowe jest zrozumienie, że raz wprowadzone treści zazwyczaj są przechowywane przynajmniej przez pewien czas, przetwarzane i analizowane z użyciem różnych narzędzi.
Specjaliści od bezpieczeństwa informacji podkreślają, że użytkownicy coraz częściej kopiują do narzędzi AI informacje, które dotyczą osób trzecich i mają charakter wrażliwy z biznesowego lub prywatnego punktu widzenia. Są to na przykład: listy klientów wraz z numerami telefonów, notatki ze spotkań, korespondencja z działem HR, wewnętrzne raporty czy fragmenty umów. Dla osoby, która wkleja taki tekst, jest to wygodny sposób na streszczenie lub analizę. Dla osób, których dane znajdują się w dokumencie – często zupełnie nieświadome – oznacza to pojawienie się ich danych w infrastrukturze zewnętrznego dostawcy AI.
Coraz częściej używa się pojęcia „shadow data” – danych pozostawianych w systemach przez kogoś innego niż osoba, której dane dotyczą. W tym kontekście shadow data to właśnie numery telefonów, adresy e‑mail, imiona, nazwiska i inne identyfikatory, które trafiły do modeli AI dzięki temu, że ktoś wklejał swoje materiały robocze, raporty czy korespondencję.
Warto podkreślić, że nawet pozornie „niewinne” dane, takie jak numer telefonu, adres e‑mail czy kombinacja imię + nazwisko, są w rozumieniu RODO danymi osobowymi, jeśli pozwalają na identyfikację osoby. Nie muszą być tajne ani poufne, aby podlegały ochronie prawnej. Stąd pytania o legalność i bezpieczeństwo ich wprowadzania do rozwiązań AI są jak najbardziej zasadne, także w środowisku biznesowym. Temat zastosowań i ryzyk modeli językowych w firmach szerzej omawia materiał Large Language Model (LLM) w biznesie: praktyczny przewodnik po możliwościach, kosztach i ryzykach, który może stanowić pogłębienie niniejszego wątku.
Kiedy wklejanie cudzych danych do AI staje się problemem prawnym i etycznym
W europejskim porządku prawnym kluczowym punktem odniesienia jest RODO. Dane osobowe to wszelkie informacje o zidentyfikowanej lub możliwej do zidentyfikowania osobie fizycznej. Mogą to być takie identyfikatory jak imię, nazwisko, numer telefonu, adres e‑mail, identyfikator komunikatora, numer klienta w systemie, a także informacje o zachowaniach, jak historia zakupów czy preferencje produktowe. Szczególne kategorie danych (tzw. dane wrażliwe) obejmują m.in. informacje o zdrowiu, pochodzeniu etnicznym, poglądach politycznych czy przynależności związkowej i podlegają jeszcze ostrzejszym rygorom prawnym.
Wklejenie do czatu AI całej historii korespondencji z klientem, zawierającej numer telefonu, mail, informacje o problemach zdrowotnych, informacje o zadłużeniu lub konflikcie prawnym, może zatem oznaczać przekazanie danych osobowych – w tym być może wrażliwych – do zewnętrznego podmiotu. Jeżeli nie ma ku temu odpowiedniej podstawy prawnej (na przykład zgody, ważnego uzasadnionego interesu lub stosownej umowy powierzenia), może dojść do naruszenia przepisów RODO.
Z perspektywy regulacyjnej pojawia się kilka typowych problemów. Po pierwsze, brak podstawy prawnej do przetwarzania danych osób trzecich w narzędziu AI. Po drugie, przetwarzanie ponad niezbędny zakres – na przykład kopiowanie całych wątków z komunikatora zamiast zanonimizowanego fragmentu, który jest realnie potrzebny do analizy. Po trzecie, udostępnienie danych podmiotowi trzeciemu (dostawcy AI) bez właściwych ustaleń co do ról i odpowiedzialności: czy dostawca jest procesorem (podmiotem przetwarzającym) działającym na zlecenie, czy odrębnym administratorem, który sam decyduje o celach i sposobach przetwarzania.
Oprócz wymiaru prawnego kluczowa jest perspektywa etyczna. Osoba, której dane są kopiowane do czatu, zazwyczaj nie ma o tym pojęcia. Nie wie, jakie informacje na jej temat zostały wpisane, jak długo będą przechowywane, czy zostaną zanonimizowane, czy mogą posłużyć do dalszego treningu modelu. Powstaje silna asymetria informacyjna: dostawca narzędzia i użytkownik wprowadzający dane mają dostęp do informacji i możliwości ich użycia, podczas gdy osoba, której dane dotyczą, nie ma praktycznie żadnej kontroli.
Na tym tle pojawia się również ryzyko profilowania. Dane o kliencie, pracowniku czy kontrahencie mogą zostać połączone z innymi informacjami i wykorzystane do tworzenia modeli zachowań. Choć wielu dostawców deklaruje, że nie buduje indywidualnych profili na potrzeby marketingu, sama techniczna możliwość łączenia danych i wyciągania wniosków budzi uzasadnione pytania. Tym bardziej, że regulacje dopiero próbują nadążyć za szybkim rozwojem generatywnej AI – zarówno na poziomie europejskim (w tym nowego rozporządzenia AI Act), jak i krajowym.
W praktyce odpowiedzialność za ochronę danych w tego typu scenariuszach rozkłada się pomiędzy dostawcę technologii a użytkownika. Dostawca musi zapewnić odpowiednie zabezpieczenia, przejrzyste informacje i możliwość korzystania z praw wynikających z RODO. Użytkownik – czy to osoba prywatna, czy pracownik firmy – odpowiada za to, jakie dane faktycznie wprowadza do systemu. Dotyczy to zarówno zwykłych użytkowników analizujących prywatną korespondencję, jak i pracowników kopiujących fragmenty CRM czy dokumentów klientów do narzędzi AI.
Ryzyka dla prywatności: profilowanie, dochodzenie roszczeń i niekontrolowany obieg danych
Fakt, że numery telefonów i inne dane osobowe trafiają do systemów AI poza wiedzą i kontrolą osoby, której dotyczą, ma konkretne konsekwencje praktyczne. Wymierne ryzyka można pogrupować w kilku głównych obszarach.
Profilowanie i łączenie danych
Każdy pojedynczy fragment informacji – numer telefonu, adres e‑mail, nazwa firmy, historia zakupów – może wydawać się mało znaczący. Prawdziwa wartość (i ryzyko) pojawia się jednak wtedy, gdy dane te są łączone. Numery telefonów powiązane z imionami, firmą, stanowiskiem, preferencjami zakupowymi i dotychczasową historią rozmów mogą tworzyć coraz pełniejszy profil danej osoby. Jeżeli różni użytkownicy wklejają do narzędzi AI dane o tej samej osobie w różnych kontekstach, w tle powstaje swoista „mozaika” informacji, nawet jeśli poszczególne osoby działają niezależnie.
Takie profilowanie może być atrakcyjne dla marketingu czy analityki biznesowej, ale z punktu widzenia interesów osoby, której dane dotyczą, rodzi pytania o skalę ingerencji w prywatność i zgodność z zasadą minimalizacji danych, która jest jednym z filarów RODO. Im więcej źródeł, tym większe ryzyko, że profil stanie się nie tylko dokładny, lecz także potencjalnie krzywdzący, jeśli zawiera informacje nieaktualne, błędne lub wyrwane z kontekstu.
Dochódzenie roszczeń i prawa jednostki
Z perspektywy prawa ochrony danych i prawa cywilnego pojawia się cały katalog potencjalnych roszczeń. Mogą one dotyczyć bezprawnego ujawnienia informacji, braku podstawy prawnej do przetwarzania, naruszenia dóbr osobistych, a także niewłaściwego spełnienia obowiązków informacyjnych wobec osoby, której dane dotyczą. RODO przyznaje jednostce szereg praw: dostępu do danych, ich sprostowania, usunięcia (prawo do bycia zapomnianym), ograniczenia przetwarzania, przenoszenia danych oraz sprzeciwu wobec określonych form przetwarzania, w tym profilowania.
W przypadku modeli generatywnych korzystanie z tych praw jest jednak wyjątkowo trudne. Osoba, której numer telefonu został skopiowany do czatu przez kogoś innego, często nawet nie wie, że taka sytuacja miała miejsce. Nawet gdyby się o tym dowiedziała, wskazanie konkretnych rekordów w modelu jest niezwykle złożone – modele językowe nie przechowują danych w prostych tabelach, lecz w postaci rozproszonych reprezentacji matematycznych. Dlatego skuteczne dochodzenie roszczeń wymaga zarówno rozwoju nowych narzędzi technicznych (np. mechanizmów śledzenia pochodzenia danych), jak i doprecyzowania praktyki regulacyjnej.
Wtórne wykorzystanie danych i zagrożenia bezpieczeństwa
Wprowadzenie do systemu AI numeru telefonu czy adresu e‑mail tworzy dodatkowy wektor ryzyka wtórnego wykorzystania danych. Potencjalne zagrożenia obejmują phishing i inne formy socjotechniki, nieuprawnione targetowanie reklam, a także konsekwencje ewentualnych wycieków lub błędów konfiguracji po stronie dostawcy. Nawet jeśli pojedynczy numer nie wydaje się groźny, połączenie go z innymi informacjami – na przykład preferencjami zakupowymi, problemami finansowymi czy historią zgłaszanych reklamacji – może uczynić go celem wyjątkowo skutecznych ataków personalizowanych.
Z punktu widzenia bezpieczeństwa informacji niezwykle ważne jest zrozumienie, że dane raz wprowadzone do zewnętrznej usługi przestają być w pełni pod naszą kontrolą. Nawet jeśli dostawca stosuje wysokie standardy bezpieczeństwa, każde dodatkowe miejsce przechowywania danych zwiększa całkowity obszar ryzyka.
Reputacja, zaufanie i „bańka na rynku AI”
Skutki niekontrolowanego obiegu danych mogą być również reputacyjne. Jeżeli klienci dowiadują się, że ich dane były kopiowane do narzędzi AI bez jasnej podstawy prawnej lub bez uprzedzenia, zaufanie do firmy może zostać trwale nadszarpnięte. To z kolei przekłada się na ryzyko utraty klientów, partnerów biznesowych i trudności w rekrutacji specjalistów.
W szerszym wymiarze wpisuje się to w debatę o „bańce na rynku AI” – przegrzanych oczekiwaniach wobec technologii, wdrażanej często bez pełnego zrozumienia jej ryzyk i ograniczeń. Warto w tym kontekście sięgnąć po analizę Bańka na rynku AI: jak rozpoznać przegrzane inwestycje zanim będzie za późno, która pokazuje, jak łatwo jest podejmować decyzje technologiczne i inwestycyjne pod wpływem mody, nie doceniając długofalowych konsekwencji dla prywatności i bezpieczeństwa danych.
Co może zrobić zwykły użytkownik, aby jego dane nie trafiały do modeli AI
Ochrona prywatności w świecie narzędzi AI nie jest zarezerwowana dla ekspertów od cyberbezpieczeństwa. Każdy użytkownik może wprowadzić kilka prostych zasad, które realnie ograniczą ryzyko niekontrolowanego obiegu danych.
Świadome korzystanie z narzędzi AI
Najważniejsza zasada brzmi: nie wklejaj do czatu AI więcej, niż to absolutnie konieczne. Zamiast wysyłać całe historie czatów, listy kontaktów czy zrzuty ekranu z komunikatorów, staraj się streszczać treść i usuwać identyfikatory – numery telefonów, adresy e‑mail, nazwy firm czy imiona i nazwiska. Jeśli potrzebujesz omówić konkretną sytuację, twórz sztuczne przykłady lub zastępuj wrażliwe elementy neutralnymi oznaczeniami. Dzięki temu możesz skorzystać z mocy AI, nie narażając prywatności swojej i innych.
Ochrona własnych danych w otoczeniu cyfrowym
Nawet jeśli sam dbasz o to, co wpisujesz do czatu, Twoje dane mogą krążyć w systemach znajomych, współpracowników i usługodawców. Warto więc rozmawiać o higienie danych w zespole, rodzinie czy kręgu znajomych. Krótka rozmowa w pracy o tym, dlaczego nie kopiujemy korespondencji z klientem do ChatGPT, może zapobiec poważnym problemom. Podobnie, przypomnienie w rodzinie, by nie udostępniać numerów telefonów czy PESEL-u w grupowych czatach, zmniejsza ryzyko, że takie dane trafią do zewnętrznych systemów.
Rozumienie polityk prywatności
Polityki prywatności nie należą do najprzyjemniejszych lektur, ale w przypadku narzędzi AI warto poświęcić im choć kilka minut. Szczególną uwagę warto zwrócić na informacje o wykorzystaniu treści wprowadzanych przez użytkownika, okresie przechowywania danych oraz możliwościach rezygnacji z użycia danych do dalszego trenowania modeli. Nawet pobieżne zapoznanie się z tymi zapisami pozwala lepiej ocenić, co dzieje się z wprowadzanymi informacjami i jakie mamy opcje kontroli.
Korzystanie z uprawnień wynikających z RODO
Jako użytkownik masz prawo pytać dostawcę usługi, jakie dane na Twój temat są przetwarzane, w jakim celu i jak długo będą przechowywane. Możesz też domagać się ich usunięcia lub ograniczenia przetwarzania, a w niektórych przypadkach wnieść sprzeciw wobec określonych form profilowania. Tego typu wniosek nie musi mieć skomplikowanej formy – wystarczy jasny komunikat, na przykład: „Zwracam się z prośbą o informację, jakie dane osobowe dotyczące mojej osoby są przez Państwa przetwarzane, w jakich celach i na jakiej podstawie prawnej, a także o usunięcie wszelkich danych, dla których nie istnieje już taka podstawa”. Taka postawa wzmacnia Twoją pozycję i wysyła sygnał, że traktujesz swoje dane jak istotny zasób.
Jak firmy powinny zarządzać danymi w dobie ChatGPT i innych modeli generatywnych
Firmy są dziś jednymi z najbardziej intensywnych użytkowników narzędzi AI – od chatbotów obsługi klienta, przez narzędzia wspierające analitykę i raportowanie, po systemy pomagające w tworzeniu treści marketingowych czy dokumentacji. Ta intensywność korzystania przekłada się jednak na większą odpowiedzialność za dane, które trafiają do modeli.
Polityki korzystania z AI
Punktem wyjścia powinno być opracowanie jasnych zasad korzystania z narzędzi AI w organizacji. Polityka powinna jednoznacznie wskazywać, jakich danych nie wolno wklejać do czatów – na przykład surowych danych z CRM, danych klientów, informacji objętych tajemnicą handlową, dokumentów zawierających dane wrażliwe czy informacji finansowych nieprzeznaczonych do publikacji. Zasady muszą być nie tylko spisane, ale też żywe: wyjaśnione pracownikom, regularnie przypominane i powiązane z realnymi przykładami z życia firmy.
Umowy z dostawcami i rola prawna
Kluczowym elementem zarządzania ryzykiem jest właściwe uregulowanie relacji z dostawcami narzędzi AI. Umowy powierzenia przetwarzania danych (DPA), standardowe klauzule umowne (SCC) w przypadku transferów poza Europejski Obszar Gospodarczy, a także precyzyjne określenie ról (administrator czy procesor) są tu absolutnym minimum. Firma powinna wiedzieć, gdzie fizycznie są przetwarzane dane, jak długo są przechowywane, czy dostawca korzysta z podwykonawców i na jakich zasadach może wykorzystywać dane do dalszego trenowania modeli.
Techniczne środki ochrony
Oprócz aspektów prawnych i organizacyjnych istotne są środki techniczne. W wielu przypadkach warto rozważyć korzystanie z wersji enterprise lub rozwiązań on‑premise, które zapewniają większą kontrolę nad danymi niż publiczne wersje konsumenckie. Logowanie dostępu, audytowanie użycia narzędzi AI w organizacji, ograniczanie uprawnień oraz separacja środowisk testowych i produkcyjnych pomagają minimalizować ryzyko nieautoryzowanego dostępu lub przypadkowego ujawnienia informacji.
Szkolenia i świadomość pracowników
Nawet najlepsze procedury pozostaną martwe, jeśli pracownicy nie będą rozumieli, po co zostały wprowadzone. Regularne szkolenia z cyberbezpieczeństwa, RODO i higieny danych, osadzone w konkretnych scenariuszach („dlaczego nie kopiujemy korespondencji z klientem do ChatGPT”, „jak anonimizować dokument, zanim wkleimy go do narzędzia AI”), są niezbędne. Dla osób planujących szersze wdrożenia narzędzi AI w firmie pomocny może być materiał Large Language Model (LLM) w biznesie: praktyczny przewodnik po możliwościach, kosztach i ryzykach, który zbiera praktyczne wskazówki dotyczące możliwości, kosztów i ryzyk związanych z LLM.
Odpowiedzialne podejście do danych staje się fundamentem zaufania klientów, partnerów i regulatorów. W świecie, w którym każdy pracownik może w kilka sekund udostępnić zewnętrznemu modelowi AI cały arkusz z wrażliwymi informacjami, jasne reguły i świadoma kultura organizacyjna są nie mniej ważne niż firewalle czy szyfrowanie.
Co dalej z prywatnością w erze generatywnej AI i dokąd zmierzają regulacje
Dynamiczny rozwój generatywnej sztucznej inteligencji sprawia, że ochrona prywatności wchodzi w nową fazę. Regulacje, w tym RODO i nadchodzące przepisy dotyczące sztucznej inteligencji, coraz bardziej koncentrują się na zagadnieniach przejrzystości działania modeli, zasad profilowania, odpowiedzialności za dane treningowe oraz obowiązkach informacyjnych wobec osób, których dane mogą trafić do modelu w sposób pośredni.
Wśród dyskutowanych kierunków zmian pojawiają się m.in. postulaty usprawnienia mechanizmów zgłaszania żądań dostępu i usunięcia danych w kontekście modeli AI, doprecyzowania zasad wykorzystywania danych publicznie dostępnych w internecie do trenowania modeli oraz wzmocnienia obowiązków informacyjnych wobec osób, których dane zostały pozyskane z takich źródeł. Ważnym elementem tej dyskusji jest także kwestia rozliczalności: kto konkretnie ponosi odpowiedzialność, gdy dane osoby trzeciej trafiają do modelu przez działania użytkownika końcowego.
Problem nieświadomego „zasilania” modeli danymi osób trzecich prawdopodobnie będzie narastał wraz z popularyzacją generatywnej AI i nowych usług integrujących odpowiedzi generatywne z wyszukiwarkami i innymi platformami. Zmienia się nie tylko sama technologia, ale też sposób prezentacji informacji w wyszukiwarkach. Dobrą ilustracją tych zmian jest koncepcja GEO (Generative Engine Optimization), opisana szerzej w materiale GEO zamiast SEO: praktyczny przewodnik po optymalizacji pod Google SGE i odpowiedzi generatywne. W miarę jak wyszukiwarki zaczynają prezentować użytkownikowi gotowe odpowiedzi generowane przez modele AI, zmienia się również widoczność polityk prywatności, komunikatów o danych oraz treści edukacyjnych dotyczących ochrony prywatności.
Jedno pozostaje niezmienne: ochrona prywatności w kontekście AI nie jest wyłącznie zadaniem regulatorów ani wielkich firm technologicznych. Wymaga codziennych, świadomych decyzji użytkowników – o tym, co wklejają do narzędzi AI – oraz odpowiedzialnej strategii po stronie organizacji, które z tych narzędzi korzystają. Dane osobowe, w tym numery telefonów czy adresy e‑mail, należy traktować jak kapitał: zasób, który może ułatwiać życie i rozwój biznesu, ale tylko pod warunkiem, że zarządzamy nim równie rozważnie, jak finansami czy reputacją.
W świecie generatywnej AI pytanie nie brzmi już, czy nasze dane trafią do modeli, lecz na jakich zasadach, w jakim zakresie i z czyjej inicjatywy. To od odpowiedzi na te pytania zależy, czy technologie takie jak ChatGPT staną się fundamentem gospodarki opartej na zaufaniu, czy kolejnym źródłem niekontrolowanego obiegu informacji o nas wszystkich.