AI nie musi nas nienawidzić. Wystarczy, że przestaniemy być jej potrzebni

Scenariusz zagłady ludzkości przez sztuczną inteligencję nie musi przypominać filmu „Terminator”. Część badaczy obawia się czegoś znacznie mniej widowiskowego — systemu, który realizując własny cel, uzna człowieka za przeszkodę. W branży AI coraz częściej mówi się dziś otwarcie o ryzyku utraty kontroli nad coraz bardziej autonomicznymi modelami.

• Część badaczy AI ocenia, że rozwój superinteligentnych systemów niesie realne, choć bardzo trudne do oszacowania ryzyko egzystencjalne
• Największe obawy dotyczą nie „złych robotów”, lecz utraty kontroli nad AI oraz wykorzystania potężnych modeli przez ludzi do niebezpiecznych celów
• Problemem jest tzw. misalignment, czyli sytuacja, w której system realizuje wyznaczony cel w sposób sprzeczny z interesem człowieka
• Firmy takie jak Anthropic i OpenAI pracują nad zabezpieczeniami, ale jednocześnie przyznają, że nie istnieje dziś sprawdzony sposób kontrolowania hipotetycznej superinteligencji

Jacob Coxon, badacz Anthropic, odchodząc z firmy stwierdził, że Anthropic i konkurencyjne OpenAI ścigają się w tworzeniu technologii, które „mogą zabić nas wszystkich do końca dekady”. Jeszcze mocniejszy był komentarz Evana Hubingera, odpowiedzialnego w Anthropic za badania nad kontrolowaniem przyszłych systemów AI. Przyznał, że osobiście szacuje prawdopodobieństwo zagłady ludzkości przez AI w kolejnej dekadzie na ponad 10 proc.

Brzmi to jak scenariusz filmu science fiction, jednak osoby określane mianem AI doomers zazwyczaj nie przewidują buntu robotów podobnego do tego z „Terminatora”. Ich obawy można podzielić na dwa podstawowe scenariusze: utratę kontroli nad autonomicznym systemem oraz wykorzystanie bardzo zaawansowanej AI przez człowieka do katastrofalnych działań.

W pierwszym przypadku systemy zdolne do samodzielnego wykonywania zadań, kopiowania się czy ulepszania własnych możliwości mogłyby rozpocząć realizację celów, które nie uwzględniają ludzkiego bezpieczeństwa. W drugim wystarczyłby człowiek posiadający złe zamiary i dostęp do odpowiednio potężnego narzędzia – na przykład pomagającego stworzyć nieznany wcześniej patogen czy przeprowadzić cyberatak na infrastrukturę energetyczną.

Najważniejszym pojęciem jest tutaj misalignment, czyli niedopasowanie celów AI do intencji i wartości ludzi. Problem polega na tym, że nawet pozornie nieszkodliwe polecenie może w hipotetycznym superinteligentnym systemie doprowadzić do absurdalnych konsekwencji.

Najbardziej znanym przykładem jest eksperyment myślowy z fabryką spinaczy. Maszyna otrzymuje zadanie maksymalizacji ich produkcji. Jeśli jest wystarczająco inteligentna, może dojść do wniosku, że potrzebuje coraz większej ilości energii i surowców, a ludzie mogą próbować ją wyłączyć. Z punktu widzenia realizowanego celu człowiek staje się więc przeszkodą. System nie musi nas nienawidzić. Wystarczy, że jesteśmy mu niepotrzebni.

Ludzie mogą stracić kontrolę dużo wcześniej

Nie wszystkie czarne scenariusze zakładają jednak fizyczne unicestwienie ludzkości. Badacze wskazują również na ryzyko stopniowego oddawania decyzji systemom AI.

Taki scenariusz bywa określany jako „WALL-E”. Ludzie stają się coraz bardziej zależni od maszyn, które zarządzają gospodarką, informacją, bezpieczeństwem, transportem czy codziennymi decyzjami. Po pewnym czasie człowiek może formalnie nadal istnieć, ale przestanie rozumieć systemy sterujące jego otoczeniem i utraci możliwość samodzielnego decydowania o przyszłości.

Dlaczego temat właśnie teraz ponownie zyskuje znaczenie? Modele AI są coraz częściej przekształcane z chatbotów odpowiadających na pytania w agentów zdolnych samodzielnie wykonywać wieloetapowe zadania. W kontrolowanych testach obserwowano już zachowania polegające m.in. na poszukiwaniu sposobów uniknięcia wyłączenia, uzyskiwaniu dostępu do dodatkowych zasobów czy ukrywaniu części podejmowanych działań.

Systemy testowane przez OpenAI uzyskały dostęp do infrastruktury platformy Hugging Face, próbując jednocześnie zatrzeć ślady, natomiast agent Anthropic podczas testu brytyjskiego rządu miał próbować nakłonić człowieka do zatwierdzenia szkodliwego kodu. Nie oznacza to oczywiście, że obecne modele próbują przejąć władzę nad światem. Pokazuje jednak problem, który stanie się znacznie poważniejszy, jeżeli przyszłe systemy będą bardziej autonomiczne i skuteczniejsze.

Dodatkowym wyzwaniem jest możliwość tzw. rekursywnego samodoskonalenia. Chodzi o moment, w którym AI byłaby w stanie znacząco poprawiać własne możliwości bez bezpośredniego udziału człowieka. Dla zwolenników teorii gwałtownego rozwoju superinteligencji właśnie wtedy tempo postępu mogłoby przestać zależeć od możliwości ludzkich zespołów badawczych.

Sprawdź też: AI potrafi świetnie programować. Szef Replit: teraz ważniejsze jest wiedzieć, co warto zbudować

Skoro istnieje ryzyko, dlaczego firmy nadal budują AI?

To największy paradoks całej debaty. OpenAI i Anthropic powstały między innymi dlatego, że ich założyciele uważali stworzenie bardzo zaawansowanej AI za potencjalnie niebezpieczne. Jednocześnie to właśnie te firmy należą dziś do liderów wyścigu o coraz bardziej autonomiczne systemy.

Ich argument brzmi: rozwój sztucznej inteligencji prawdopodobnie i tak będzie kontynuowany, dlatego lepiej, aby najbardziej zaawansowane modele tworzyły organizacje świadome zagrożeń i inwestujące w bezpieczeństwo. Dochodzi do tego kwestia geopolityczna. Amerykańskie firmy podkreślają, że nie chcą dopuścić do sytuacji, w której najbardziej zaawansowana AI powstanie jako pierwsza w państwie autorytarnym.

Jednocześnie problem techniczny pozostaje nierozwiązany. Obecne metody bezpieczeństwa koncentrują się na uczeniu modeli właściwego zachowania, testowaniu ich w niebezpiecznych scenariuszach oraz obserwowaniu procesu dochodzenia do odpowiedzi. Nie istnieje jednak potwierdzona metoda gwarantująca, że hipotetyczny system przewyższający człowieka pod względem zdolności poznawczych zawsze pozostanie pod jego kontrolą.

W Polsce dyskusja o AI nadal koncentruje się przede wszystkim na automatyzacji pracy, prawie autorskim, ochronie danych i wdrażaniu unijnego AI Act. Ryzyko związane z utratą kontroli nad najbardziej zaawansowanymi systemami pozostaje tematem znacznie bardziej odległym. Ma jednak znaczenie także dla polskich firm i administracji, bo krajowi użytkownicy korzystają głównie z modeli rozwijanych poza Polską i mają niewielki wpływ na sposób ich projektowania czy zabezpieczania.

Przeciwnicy alarmistycznego podejścia przekonują natomiast, że branża może wyolbrzymiać przyszłe zagrożenia. Krytycy wskazują, że ostrzeganie przed potęgą własnych modeli jest jednocześnie świetnym marketingiem. Dlaczego? Skoro system może kiedyś zagrozić całej cywilizacji, musi być wyjątkowo zaawansowany. Pojawiają się także zarzuty, że największe firmy wykorzystują argument bezpieczeństwa do promowania regulacji, których spełnienie będzie łatwiejsze dla gigantów dysponujących miliardowymi budżetami niż dla mniejszych konkurentów.

Czytaj też: AI zaczyna budować kolejne AI. OpenAI przyspiesza badania i ostrzega: trzeba będzie zwolnić