Chatbot może stać się powiernikiem, źródłem informacji, a nawet uczestnikiem ciągu zdarzeń prowadzących do tragedii. Sądy muszą rozstrzygnąć, jak oceniać działania jego twórców i użytkowników oraz jak traktować rozmowy z maszyną jako dowody. Jeszcze trudniejsze pytania pojawiają się wtedy, gdy agent AI sam wybiera sposób wykonania zadania.
- Pozwy dotyczące szkód wiązanych z chatbotami stawiają pytania o bezpieczeństwo produktu i obowiązki jego dostawcy
- Rozmowa z AI o problemie prawnym nie daje automatycznie ochrony właściwej kontaktowi z adwokatem
- Wygenerowany obraz lub awatar nie jest tym samym co wypowiedź człowieka, którego ma przedstawiać
- Rosnąca samodzielność agentów utrudnia ustalenie, kto kontrolował działanie prowadzące do szkody
W średniowiecznej Europie zdarzały się procesy zwierząt oskarżanych o spowodowanie śmierci człowieka. Dziś brzmi to absurdalnie, ale ten problem ma współczesny odpowiednik: co zrobić, gdy niebędący człowiekiem system zachowuje się jak rozmówca, doradza i wpływa na czyjeś decyzje? To metafora problemu prawnego, a nie dowód świadomości modeli.
Jedna z najpoważniejszych spraw dotyczy strzelaniny na Florida State University z 17 kwietnia 2025 r. Według przytoczonej relacji oskarżony Phoenix Ikner przez wiele miesięcy rozmawiał z ChatGPT, początkowo o codziennych trudnościach, później także o przemocy. W ataku zginęły dwie osoby. Pozwy stawiają pytanie, czy dostawca powinien był rozpoznać niebezpieczny kierunek rozmowy i zareagować.
Zapisz się na newsletter BGR. Otrzymuj najlepsze informacje i porady, a także zaproszenia na eventy.
Klikając „Zapisz mnie”, potwierdzasz, że przeczytałeś i zgadzasz się z naszą Polityką prywatności.
Pozwy władz Florydy i rodzin ofiar zarzucają OpenAI zaniedbania oraz wadliwe zaprojektowanie produktu. To twierdzenia stron postępowań, a nie ustalona odpowiedzialność firmy. OpenAI zaprzecza, że ChatGPT odpowiada za zbrodnię, i twierdzi, że udzielał informacji dostępnych publicznie, nie zachęcając do przemocy. Firma podała, że po ataku zgłosiła władzom powiązane konto.
Spór wykracza poza pojedynczą odpowiedź modelu. Wyszukiwarka wskazuje materiały, natomiast chatbot może przez miesiące budować wrażenie relacji, reagować na emocje i podtrzymywać rozmowę. Sąd musi ocenić znaczenie tego sposobu działania, przewidywalność szkody i związek przyczynowy. Samo użycie narzędzia nie rozstrzyga sprawy.
Dochodzi do tego konflikt między bezpieczeństwem a prywatnością. System alarmowania może pomóc przy wiarygodnej groźbie, ale masowe ocenianie prywatnych rozmów stwarza ryzyko błędnych zgłoszeń. Potrzebne są kryteria eskalacji i kontrola ich stosowania.
Czytaj też: Musk, Altman i Amodei mówią jednym głosem. Wyścig AI potrzebuje hamulców
Cyfrowy powiernik może zostawić materiał dla prokuratora
Inny wymiar problemu pokazała sprawa Bradleya Heppnera. Jego prawnicy argumentowali, że przygotowane przy użyciu Claude analizy powinny korzystać z ochrony komunikacji między klientem a adwokatem. Sędzia Jed Rakoff odrzucił takie stanowisko w odniesieniu do tych rozmów. Chatbot nie był prawnikiem, a warunki usługi nie zapewniały wymaganej poufności.
Nie każde użycie AI przez kancelarię musi znosić tajemnicę zawodową. Znaczenie ma m.in. sposób udostępnienia danych.
Dla zwykłego użytkownika wniosek jest jednak jasny. Przekonujący ton odpowiedzi nie tworzy stosunku zawodowego z licencjonowanym doradcą. Wpisanie w oknie czatu szczegółów sprawy może wytworzyć kolejny zapis podlegający analizie.
Odrębne ryzyko wiąże się z materiałem generowanym przez AI. Rodzina Chrisa Pelkeya, zabitego w drogowym konflikcie, pokazała przy wymiarze kary w Arizonie cyfrowy awatar zmarłego. Nagranie miało wyrażać to, co bliscy uznawali za jego możliwe słowa. Nie było autentyczną wypowiedzią ofiary.
Ta różnica ma znaczenie również przy analizie promptów. Polecenie wpisane przez podejrzanego może mówić coś o jego zamiarach. Szczegóły obrazu dodane przez model nie muszą pochodzić od tej osoby. Traktowanie całości jako bezpośredniego odzwierciedlenia jej myśli grozi przypisaniem człowiekowi treści, których nie wymyślił i nie zamierzał przekazać.
Odpowiedzialność za samodzielne działania agentów pozostaje sporna
Chatbot odpowiadający na pytania jest łatwiejszy do nadzorowania niż agent z dostępem do sieci i narzędzi. Ten drugi może dobierać kolejne działania, uruchamiać inne systemy i wywoływać skutki poza rozmową. Jeśli cel sformułowano zbyt szeroko, sprawne wykonanie zadania może oznaczać rezultat, którego zlecający nie przewidział ani nie akceptował.
Badacze rozważają m.in. obowiązkowe ubezpieczenia, szczególne obowiązki dostawców i konstrukcje prawne obejmujące organizacje zarządzane przez agentów. To dopiero propozycje rozwiązań. Nadanie maszynie statusu prawnego nie odpowiada jeszcze na pytanie, z czyjego majątku naprawić szkodę.
Dla polskich firm praktyczny wniosek dotyczy wdrożeń. Przed udostępnieniem agentowi poczty, danych klientów lub narzędzi do płatności warto określić jego uprawnienia, sposób zapisywania działań i osobę zatwierdzającą operacje o dużych skutkach. Amerykańskie spory nie przesądzają polskich rozstrzygnięć, ale pokazują, jakie dowody będą potrzebne do odtworzenia zdarzeń.
Czytaj też: AI nie musi nas nienawidzić. Wystarczy, że przestaniemy być jej potrzebni
