Dlaczego ostrzeżenia ekspertów o AI nie są już science fiction
Jeszcze kilka lat temu wizje sztucznej inteligencji służącej do kontrolowania całych społeczeństw kojarzyły się przede wszystkim z filmami science fiction. Dziś tego typu scenariusze coraz częściej opisują nie futurolodzy, lecz praktycy budujący największe systemy AI na świecie. Jednym z nich jest Dario Amodei, współzałożyciel i prezes Anthropic, firmy stojącej za modelem Claude. Amodei od dłuższego czasu ostrzega, że sztuczna inteligencja może stać się infrastrukturą masowej inwigilacji i narzędziem polityczno‑ekonomicznej presji, jeżeli nie zostanie objęta odpowiednimi ograniczeniami i nadzorem.
Istotne jest to, że mowa nie o odległej przyszłości za 30–50 lat, lecz o horyzoncie kilku najbliższych lat. Najnowsze modele generatywne, systemy analizy obrazu, głosu i zachowań online są już wystarczająco dojrzałe, aby wspierać zaawansowane profilowanie obywateli, predykcję ich reakcji i precyzyjne sterowanie przepływem informacji. Amodei zwraca uwagę, że ten sam zestaw technologii, który może poprawiać produktywność i jakość usług, w niewłaściwych rękach staje się narzędziem masowej kontroli.
Stawką w tym sporze nie jest abstrakcyjna „przyszłość technologii”, lecz bardzo konkretne mechanizmy wpływu na opinię publiczną, procesy wyborcze, prawa obywatelskie czy relacje pracodawca–pracownik. Ryzyko dotyczy zarówno dziennikarzy i aktywistów, jak i prawników, urzędników czy zwykłych użytkowników internetu, którzy chcą rozumieć konsekwencje korzystania z usług cyfrowych.
W tym kontekście kluczowe są trzy wątki. Po pierwsze, jakie techniczne możliwości obserwujemy już dziś – w realnych produktach i systemach. Po drugie, które scenariusze wykorzystania AI do kontroli społeczeństw są realistyczne, a które pozostają medialnie przerysowane. Po trzecie, jakie regulacje, standardy techniczne i praktyki mogą ograniczyć ryzyko nadużyć, nie blokując jednocześnie rozwoju innowacji.
Chodzi nie o demonizowanie technologii, lecz o trzeźwą analizę. Sztuczna inteligencja może wspierać demokrację, przejrzystość instytucji i prawa człowieka – ale tylko wtedy, gdy jej rozwój nie będzie pozostawiony wyłącznie logice wyścigu zbrojeń technologicznych i geopolitycznych kalkulacji.
Jak współczesne systemy AI widzą obywatela: dane, modele i architektury w praktyce
Aby zrozumieć potencjał AI jako narzędzia kontroli, trzeba zacząć od podstawowego pytania: jak współczesne systemy „widzą” człowieka. W zdecydowanej większości przypadków obywatel nie jest dla nich konkretną osobą z biografią i kontekstem, lecz zbiorem danych i prawdopodobieństw. Modele uczą się na ogromnych zbiorach informacji, a następnie próbują przewidywać, jak zachowa się dany użytkownik w określonej sytuacji.
W praktyce wykorzystywane są różne klasy systemów. Modele językowe generują tekst i analizują komunikację, systemy rekomendacyjne decydują, jakie treści zobaczymy w mediach społecznościowych czy serwisach wideo, modele predykcyjne szacują prawdopodobieństwo zakupu, rezygnacji z usługi, niespłacenia kredytu, a narzędzia do rozpoznawania obrazu i głosu analizują nagrania z kamer, rozmowy telefoniczne czy wirtualne spotkania.
Źródłem danych są zazwyczaj:
- aktywność w mediach społecznościowych (polubienia, komentarze, obserwowane profile),
- historia wyszukiwań i odwiedzanych stron,
- dane lokalizacyjne z telefonów i urządzeń IoT,
- informacje zakupowe i płatnicze,
- nagrania z monitoringu wizyjnego w przestrzeni publicznej i prywatnej,
- metadane komunikacji – kto, z kim, jak często i o jakiej porze się kontaktuje.
Z tak zebranych informacji budowane są profile behawioralne. Na ich podstawie systemy wnioskują m.in. preferencje polityczne, skłonność do ryzyka, podatność na określone argumenty emocjonalne, poziom zaufania do instytucji czy nawet stan finansów domowych. Kluczową rolę odgrywa inferencja na podstawie cech pośrednich: wystarczy zestaw pozornie neutralnych danych – ulubiona muzyka, obserwowane marki, godziny aktywności – by z dużym prawdopodobieństwem oszacować, jak ktoś zagłosuje lub czy jest podatny na treści spiskowe.
W tym kontekście mówi się o „scoringu obywateli”, czyli przypisywaniu jednostkom różnego typu punktacji ryzyka lub „wiarygodności” – analogicznie do scoringu kredytowego, ale rozszerzonego o zachowania społeczne i polityczne. Innym pojęciem jest „digital twin” użytkownika: wirtualny sobowtór, który istnieje w systemach analitycznych jako zestaw parametrów i wzorów zachowań. Taki model pozwala symulować, jak obywatel mógłby zareagować na nowe przepisy, zmianę podatków, kampanię medialną czy kryzys gospodarczy.
Tego typu mechanizmy nie są abstrakcją. Już dziś stoją za działaniem systemów reklamowych, platform streamingowych, narzędzi marketing automation i wielu rozwiązań stosowanych w finansach, handlu czy telekomunikacji. Dario Amodei oraz inni eksperci podkreślają, że jakościową zmianą jest nie tylko precyzja predykcji, lecz skala i automatyzacja – możliwość analizy i łączenia danych o milionach ludzi w czasie bliskim rzeczywistemu oraz podejmowania na tej podstawie zautomatyzowanych decyzji.
Scenariusze inwigilacji i profilowania oparte na AI: od reklam politycznych po państwowy scoring obywateli
Ryzyko wykorzystania AI do kontroli społeczeństw ujawnia się na kilku poziomach – od komercyjnego, przez polityczny, aż po państwowy. Granice między nimi są płynne, ponieważ te same dane i narzędzia mogą zmieniać właściciela lub cel zastosowania.
Na poziomie komercyjnym dominują platformy cyfrowe, operatorzy telekomunikacyjni, banki i duże sieci handlowe. Już dziś śledzą one zachowania użytkowników za pomocą aplikacji mobilnych, ciasteczek, programów lojalnościowych czy urządzeń IoT. Sztuczna inteligencja analizuje, jakie produkty przeglądamy, ile czasu spędzamy przy danym typie treści, kiedy jesteśmy najbardziej skłonni do zakupu. Na tej podstawie powstają zaawansowane profile konsumencko‑polityczne, wykorzystywane do spersonalizowanych reklam, dynamicznego ustalania cen czy identyfikowania klientów „wysokiego ryzyka odejścia”.
Na poziomie polityczno‑wyborczym te same profile mogą zostać użyte do segmentacji elektoratu. Dane o aktywności w sieci, historii wyszukiwań i kontaktach pozwalają wytypować grupy „łatwe do przekonania” – osoby wahające się, o niskim poziomie zaangażowania, o specyficznych lękach czy aspiracjach. Kampanie polityczne, wspierane przez modele językowe, są w stanie masowo generować setki tysięcy wersji treści – od wpisów w mediach społecznościowych po komentarze na forach – dopasowanych do wrażliwości konkretnych segmentów wyborców. Dla jednych akcentuje się bezpieczeństwo, dla innych kwestie socjalne, jeszcze dla innych wątki światopoglądowe.
Najdalej idący scenariusz dotyczy poziomu państwowego. Można wyobrazić sobie system scoringu obywateli, łączący dane z administracji, banków, operatorów telekomunikacyjnych, kamer miejskich i platform społecznościowych. Na tej bazie AI wystawiałaby obywatelom punktację – wpływającą na możliwość uzyskania kredytu, awansu w administracji, przyznania świadczeń czy zezwolenia na działalność gospodarczą. Modele mogłyby automatycznie sygnalizować „osoby niewygodne”, wzmożoną aktywność wokół potencjalnych protestów czy „podejrzane zachowania” w określonych dzielnicach.
Pewne elementy takich rozwiązań są już testowane w różnych państwach, co potwierdza, że nie jest to wyłącznie literacka fantazja. Równocześnie trzeba zachować wyważony ton. Technicznie wiele z tych scenariuszy jest możliwych przy obecnym stanie technologii, ale kluczową rolę odgrywają decyzje polityczne, ramy prawne i kultura organizacyjna instytucji publicznych. To one przesądzają, czy AI stanie się kolejnym narzędziem biurokratycznym, czy centralnym mechanizmem nadzoru nad obywatelami.
AI jako narzędzie manipulacji opinią publiczną: fabryki treści, boty i precyzyjne psychologiczne targetowanie
Odrębnym, choć blisko powiązanym obszarem ryzyka jest wpływ sztucznej inteligencji na kształtowanie opinii publicznej. Generatywne modele językowe i obrazowe umożliwiają masową, zautomatyzowaną produkcję treści, które do złudzenia przypominają materiały tworzone przez ludzi. To nie tylko artykuły czy posty, ale również komentarze, memy, krótkie filmy i grafiki.
Nowością jest skala i personalizacja. Zamiast zatrudniać setki osób do prowadzenia kont w mediach społecznościowych, można stworzyć sieć „syntetycznych kont” – botów potrafiących prowadzić przekonujące dyskusje, reagować na bieżące wydarzenia, a nawet budować długotrwałe relacje z prawdziwymi użytkownikami. Każde z takich kont może mieć odmienny styl, temperament i zestaw poglądów, jednak wszystkie realizują wspólny cel: wzmacniać określoną narrację.
Szczególnie niebezpieczna jest możliwość precyzyjnego targetowania psychologicznego. Modele potrafią analizować historię kliknięć, komentarzy i czasu spędzanego przy danym typie treści, aby oszacować, czy dana osoba jest bardziej podatna na argumenty oparte na lęku, złości, nadziei czy poczuciu krzywdy. Następnie generują przekaz „szyty na miarę” – inne treści trafiają do osób lękliwych, inne do sympatyków teorii spiskowych, inne do konkretnych grup zawodowych czy mniejszości.
Eksperci, w tym Dario Amodei, ostrzegają, że w perspektywie kilku lat koszt tworzenia wysokiej jakości dezinformacji może spaść niemal do zera, podczas gdy jej skala będzie trudna do wychwycenia tradycyjnymi metodami monitoringu. Powstaje zjawisko „syntetycznej rzeczywistości informacyjnej”, w której odbiorca ma coraz większy problem z odróżnieniem treści autentycznych od tych wygenerowanych i zaprojektowanych pod konkretny efekt polityczny lub komercyjny.
Ten proces dodatkowo wzmacniają narzędzia do generowania obrazów i wideo, w tym deepfake’i. Jak pokazuje analiza rynku kreatywnego w tekście o wpływie narzędzi obrazowych na pracę grafików, marketerów i twórców treści, te same rozwiązania, które zwiększają efektywność pracy zespołów kreatywnych, mogą zostać skierowane do masowej produkcji zmanipulowanych materiałów wizualnych. W efekcie widz nie tylko nie wie, kto jest autorem materiału, ale często nie ma żadnej możliwości stwierdzenia, czy dana scena wydarzyła się w rzeczywistości.
Co jest realnym zagrożeniem, a co medialną przesadą: chłodna analiza scenariuszy „AI do kontroli”
Aby uniknąć zarówno lekceważenia ryzyk, jak i histerycznych narracji, warto uporządkować scenariusze wykorzystania AI do kontroli społeczeństwa według stopnia ich realności.
Do kategorii „już dziś możliwe i częściowo wdrażane” należą przede wszystkim:
- profilowanie użytkowników na podstawie danych online w celach marketingowych i politycznych,
- automatyzacja moderacji treści – również z wykorzystaniem filtrów politycznych lub światopoglądowych,
- systemy scoringu kredytowego i ubezpieczeniowego wspierane przez AI,
- targetowane kampanie polityczne oparte na segmentacji wyborców,
- systemy analizy nagrań z monitoringu (rozpoznawanie twarzy, analiza tłumu, śledzenie zachowań).
Wiele z nich funkcjonuje już w sektorze prywatnym, część jest testowana przez instytucje publiczne. Kontrowersje budzą przede wszystkim brak przejrzystości modeli, możliwość dyskryminacji oraz transfer rozwiązań z rynku komercyjnego do sfery bezpieczeństwa wewnętrznego.
Druga kategoria to scenariusze „technicznie prawdopodobne w ciągu kilku lat”. Chodzi o bardziej autonomiczne systemy nadzoru łączące wiele źródeł danych – monitoring miejski, dane telekomunikacyjne, płatności bezgotówkowe, logi z platform społecznościowych. Na tej bazie AI mogłaby generować prognozy dotyczące prawdopodobieństwa protestów, napięć społecznych czy radykalizacji określonych grup. Równolegle rozwijają się agentowe systemy AI, zdolne do prowadzenia ciągłych kampanii wpływu niemal bez udziału człowieka. Jak pokazują rozważania biznesowe w analizie dotyczącej autonomicznych agentów i strategii AI w biznesie, technologie projektowane do automatyzacji procesów w firmach mogą w kontekście państwowym zostać wykorzystane do automatyzacji nadzoru i komunikacji politycznej.
Wreszcie trzecia kategoria to scenariusze „na razie bardziej fikcja niż realny projekt”. Należy tu zaliczyć pełną, nieomylną predykcję zachowań jednostek rodem z wizji „policji prewencyjnej”, całkowicie autonomiczne „państwo‑algorytm” czy pełny „odczyt myśli”. Obecne systemy AI pozostają statystycznymi narzędziami, podatnymi na błędy, uprzedzenia i manipulacje danymi. Ta zawodność jest z jednej strony ograniczeniem, z drugiej – dodatkowym źródłem ryzyka: błędne profile, fałszywe alarmy, niesłuszne decyzje administracyjne. Przesadzone narracje o wszechwiedzącej AI nie tylko mijają się z prawdą, ale też utrudniają poważną debatę o realnych zagrożeniach tu i teraz.
Geopolityka, wyścig po dane i rola korporacji w budowie infrastruktury cyfrowej kontroli
Rozwój sztucznej inteligencji to nie tylko kwestia lokalnych regulacji, ale również globalnej rywalizacji. Państwa i korporacje konkurują o trzy zasoby: moc obliczeniową, kompetencje badawczo‑inżynierskie oraz – przede wszystkim – dane. Ten, kto dysponuje największymi, najlepiej zorganizowanymi zbiorami danych o zachowaniach ludzi, zyskuje przewagę nie tylko biznesową, lecz także polityczną i militarną.
Transgraniczne przejęcia i inwestycje w startupy AI wpływają na koncentrację wiedzy i kontroli nad kluczowymi technologiami. Dobrym przykładem jest opisane szerzej w naszym serwisie przejęcie chińskiego startupu Manus AI przez globalnego giganta mediów społecznościowych, omówione w tekście dotyczącym rzadkiego transakcyjnego mostu między USA a Chinami w wyścigu po AI. Tego typu ruchy mają konsekwencje wykraczające poza standardowe analizy fuzji i przejęć: decydują o tym, które podmioty kontrolują infrastrukturę analizy danych na skalę miliardów użytkowników.
Coraz częściej to prywatne firmy, a nie państwa, dysponują najbogatszymi zbiorami danych i najbardziej zaawansowaną infrastrukturą chmurową. W praktyce stają się współtwórcami, a często dostawcami systemów nadzoru – od oprogramowania do rozpoznawania twarzy, przez narzędzia analizy nastrojów społecznych, po systemy scoringu ryzyka w wymiarze sprawiedliwości czy administracji socjalnej. Outsourcing takich funkcji do sektora prywatnego tworzy nowy rodzaj zależności, w których obywatele nie mają jasności, kto faktycznie odpowiada za decyzje podejmowane przez algorytmy.
Dodatkowe ryzyko wynika z tzw. efektu „black box” – braku przejrzystości modeli. Złożone sieci neuronowe działają w sposób trudno wytłumaczalny nawet dla ich twórców. Kiedy takie „czarne skrzynki” zostają włączone do systemów decydujących o kredycie, przyznaniu świadczeń czy priorytecie w kolejce do usług publicznych, pojawia się poważny problem odpowiedzialności i możliwości odwołania się od decyzji. Eksperci – w tym Dario Amodei – ostrzegają, że geopolityczny wyścig po dominację w AI może wypychać na dalszy plan kwestie bezpieczeństwa, praw człowieka i rzetelnej kontroli nad wykorzystaniem systemów.
Jak ograniczyć nadużycia: regulacje, standardy techniczne i praktyczne rekomendacje dla obywateli
Debata o zagrożeniach związanych z AI musi być uzupełniona o równie poważną dyskusję na temat rozwiązań. Odpowiedź na ryzyko nadużyć powinna obejmować trzy poziomy: regulacyjny, techniczno‑organizacyjny oraz indywidualno‑społeczny.
Na poziomie regulacyjnym kluczowy kierunek wyznaczają rozwiązania zbliżone do unijnego AI Act – klasyfikujące systemy według poziomu ryzyka i wprowadzające szczególne wymogi dla zastosowań wysokiego ryzyka. Istotne są tu:
- ochrona danych osobowych i ograniczenie możliwości łączenia baz danych bez wyraźnej podstawy prawnej,
- zakazy określonych zastosowań, takich jak masowa biometryczna inwigilacja w przestrzeni publicznej czy systemowy scoring obywateli,
- wymóg przejrzystości modeli w krytycznych zastosowaniach (np. wymiar sprawiedliwości, sektor finansowy, administracja),
- niezależny nadzór nad systemami AI stosowanymi przez administrację publiczną, z prawem do audytu i ocen oddziaływania na prawa człowieka oraz procesy demokratyczne.
Na poziomie technicznym i organizacyjnym kluczowe są standardy bezpieczeństwa i etyki wdrażane przez projektantów i dostawców systemów. Obejmują one m.in. zasadę privacy by design, czyli uwzględnianie ochrony prywatności już na etapie projektowania architektury systemu, ograniczanie zakresu gromadzonych danych do tego, co niezbędne, stosowanie anonimizacji i pseudonimizacji, regularne audyty algorytmiczne oraz red teaming pod kątem nadużyć – testowanie, czy dany system może zostać wykorzystany do inwigilacji lub manipulacji. Coraz częściej pojawia się postulat, aby firmy rozwijające zaawansowaną AI inwestowały w mechanizmy bezpieczeństwa co najmniej tak intensywnie, jak w nowe funkcje i produkty.
Wreszcie poziom indywidualny i społeczny, na którym kluczową rolę odgrywają dziennikarze, aktywiści, prawnicy i świadomi obywatele. W praktyce warto:
- uczyć się rozpoznawania kampanii manipulacyjnych – zwłaszcza tych, które wykorzystują emocje strachu, gniewu lub oburzenia i pojawiają się równocześnie w wielu kanałach,
- ograniczać własny ślad cyfrowy, kontrolując uprawnienia aplikacji, korzystając z narzędzi zwiększających prywatność i rozważnie udostępniając dane,
- zadawać instytucjom publicznym i firmom konkretne pytania o sposób działania ich systemów AI: jakie dane są wykorzystywane, czy decyzje można zaskarżyć, czy system przeszedł niezależny audyt,
- wspierać i budować koalicje między mediami, organizacjami pozarządowymi, środowiskami prawniczymi i ekspertami technicznymi, zdolne do realnej kontroli nad wdrażaniem kontrowersyjnych rozwiązań.
Dario Amodei i inni liderzy branży przypominają, że sztuczna inteligencja nie jest z definicji narzędziem opresji. Może służyć transparentności, walce z korupcją, lepszemu dostępowi do usług publicznych i ochronie praw obywatelskich – pod warunkiem, że zostanie wprowadzona w ramach jasno zdefiniowanych reguł, z myślą o dobru wspólnym, a nie wyłącznie o przewadze konkurencyjnej czy politycznej.
Wybór nie dotyczy tego, czy AI powstanie, bo ten etap ludzkość ma już za sobą. Prawdziwe pytanie brzmi, kto i na jakich zasadach będzie kontrolował infrastrukturę cyfrową, która coraz mocniej oplata nasze życie prywatne, zawodowe i publiczne. Odpowiedź na nie wymaga działania tu i teraz, zanim ostrzeżenia ekspertów staną się codziennością obywateli.