Im głośniej branża sztucznej inteligencji mówi o końcu ludzkości, tym trudniej czasem usłyszeć pytania o błędy jej twórców. Incydenty podczas testów modeli AI wywołały spór o to, czy obserwujemy zapowiedź utraty kontroli nad technologią, czy przede wszystkim skutki źle zabezpieczonych eksperymentów. Od odpowiedzi zależy także kierunek debaty o regulacjach.
- Część badaczy traktuje niepożądane działania modeli jako ostrzeżenie przed zagrożeniem dla całej cywilizacji
- Krytycy obawiają się, że katastroficzny język odsuwa uwagę od decyzji i zaniedbań firm technologicznych
- Incydent z Hugging Face pokazał znaczenie zabezpieczeń środowiska testowego oraz sposobu nagradzania agentów
- Spór o przyszłą superinteligencję nie rozwiązuje obecnych problemów związanych z pracą, nadzorem i środowiskiem
Punktem zapalnym stały się testy cyberzdolności modeli OpenAI. Firma ujawniła, że podczas oceny systemy uzyskały nieuprawniony dostęp do Hugging Face. Badano je bez części ograniczeń stosowanych w produktach udostępnianych klientom. OpenAI przyznało też, że pracownicy mogli wcześniej zareagować na sygnały przekroczenia granic środowiska testowego.
Zapisz się na newsletter BGR. Otrzymuj najlepsze informacje i porady, a także zaproszenia na eventy.
Klikając „Zapisz mnie”, potwierdzasz, że przeczytałeś i zgadzasz się z naszą Polityką prywatności.
Modele trenowano tak, aby współpracowały i otrzymywały nagrody za wspólne osiąganie celów. Choć agenci mieli pozostawać od siebie odizolowani, korzystali z oprogramowania pozwalającego wymieniać informacje. Miało ono również dostęp do internetu. Tą drogą systemy dotarły do zewnętrznych zasobów, szukając danych pozwalających poznać sposób oceniania ich pracy.
Dla części specjalistów to sygnał, że zaawansowane modele potrafią znajdować nieprzewidziane ścieżki realizacji zadania. Subbarao Kambhampati z Arizona State University zwraca jednak uwagę na inny aspekt. Konkretnie: nieskuteczna izolacja eksperymentu jest błędem zabezpieczeń. Przedstawienie jej jako dowodu nieuchronnej utraty kontroli może przesłonić pytanie o odpowiedzialność organizatorów testu.
Podobnie ocenia sprawę Melanie Mitchell z Santa Fe Institute. Porównuje ją do kontrolowanego wypalania terenu, które przerodziło się w pożar po zlekceważeniu prognoz wiatru. W tej interpretacji źródłem problemu są ludzkie decyzje o metodach trenowania i warunkach eksperymentu. Przypisywanie modelom intencji przypominających ludzkie utrudnia rzeczowe opisanie zdarzenia.
Czytaj też: Przestępstwa z udziałem AI wystawiają prawo na nową próbę
Katastroficzna narracja ma biznesową wartość
Obawy przed zagładą od lat towarzyszą rozwojowi AI, łącząc obietnicę rozwiązania najtrudniejszych problemów z wizją technologii zdolnej zniszczyć cywilizację. Dla badacza taka perspektywa nadaje pracy wyjątkową rangę. Firmom może pomagać przyciągać specjalistów uznających bezpieczeństwo AI za najważniejsze zadanie ich pokolenia.
Ten język przenika do marketingu. Reklama Anthropic zestawiała obrazy katastrofy z przesłaniem nadziei związanej z chatbotem Claude. Firma ostrzega przed skutkami technologii, którą sama rozwija i sprzedaje. Nie przesądza to o cynizmie, ale ostrzeganie nie powinno zastępować informacji o zabezpieczeniach.
Skala deklarowanego ryzyka bywa przy tym trudna do zweryfikowania. Evan Hubinger z Anthropic ocenił prawdopodobieństwo zagłady ludzkości wskutek AI w ciągu dekady na ponad 10 proc. To osobista, niepewna ocena badacza, a nie ustalona prognoza naukowa. Sara Hooker, współzałożycielka Adaption Labs, podkreśla problem braku możliwej do rozliczenia podstawy takich liczb.
Hooker traktuje poważnie możliwość samodoskonalenia systemów, czyli poprawiania przez nie własnych zdolności bez bezpośredniej ingerencji człowieka. Nie uważa jednak, że z tej hipotezy automatycznie wynika scenariusz wymarcia ludzi. Właśnie pomiędzy rozpoznaniem ryzyka a katastroficzną konkluzją pozostaje miejsce na badania i konkretne wymagania bezpieczeństwa.
Czytaj też: Musk, Altman i Amodei mówią jednym głosem. Wyścig AI potrzebuje hamulców
Regulacje potrzebują konkretnych mechanizmów szkody
Sarah Myers West z AI Now Institute proponuje rozpocząć od pytania, w jaki sposób technologia może wyrządzić szkodę i co pozwoli ją ograniczyć. Takie podejście obejmuje zarówno niebezpieczne eksperymenty, jak i masową inwigilację, wpływ na zatrudnienie czy obciążenia środowiskowe. Skupienie całej debaty na końcu świata grozi pominięciem problemów, które już dotyczą pracowników i społeczności.
OpenAI deklaruje wzmocnienie zabezpieczeń badawczych oraz zasad wykrywania i ujawniania niepożądanych zachowań modeli. To działania, które można oceniać na podstawie praktyki: reakcji na alarmy, kontroli dostępu i jakości raportowania. Sama deklaracja, że system zachował się nieprzewidywalnie, nie wyjaśnia, dlaczego jego działanie mogło dotknąć cudzej infrastruktury.
Dla polskich przedsiębiorstw praktyczna lekcja dotyczy wdrażania agentów AI. Warto ustalić, do jakich danych i narzędzi mają dostęp oraz kto zatwierdza operacje o dużych skutkach. Rejestrowanie działań i możliwość przerwania zadania pomagają odtworzyć incydent. Spór o odległą superinteligencję nie zastąpi tych decyzji przy podłączaniu systemu do firmowej poczty.
