Efektywny altruizm zaczynał od pytania, jak wydać pieniądze, by uratować jak najwięcej istnień. Dziś ludzie związani z tym nurtem wpływają na rozwój sztucznej inteligencji i debatę o jej ograniczaniu. Ich historia pokazuje, jak szybko rachunek dobra może stać się rachunkiem władzy.
- Efektywny altruizm łączy ocenę skuteczności pomagania z ambicją ograniczania największych zagrożeń dla ludzkości
- Część ruchu przeniosła uwagę z ubóstwa i zdrowia na bezpieczeństwo AI oraz dobro przyszłych pokoleń
- Jak opisuje „The Economist”, środowisko obawiające się potężnej AI pomogło zarazem przyspieszyć jej rozwój
- Najważniejszy spór dotyczy tego, kto ma ustalać priorytety i ile dzisiejszych potrzeb wolno poświęcić dla niepewnej przyszłości
Wyobraźmy sobie dziecko tonące w płytkim stawie. Większość ludzi weszłaby do wody, nie przejmując się zniszczonym obuwiem. Filozof Peter Singer wykorzystał ten eksperyment, by zapytać, dlaczego podobna gotowość znika, gdy potrzebujący znajduje się daleko. Skoro niewielki wydatek może zapobiec cierpieniu, sama odległość nie powinna rozstrzygać, czy warto pomóc.
Zapisz się na newsletter BGR. Otrzymuj najlepsze informacje i porady, a także zaproszenia na eventy.
Klikając „Zapisz mnie”, potwierdzasz, że przeczytałeś i zgadzasz się z naszą Polityką prywatności.
Z takich rozważań wyrósł efektywny altruizm, określany skrótem EA. Jego praktyczna obietnica była atrakcyjna: zamiast wybierać cele wyłącznie pod wpływem emocji, porównujmy rezultaty.
Dwie organizacje mogą równie przekonująco opowiadać o swojej misji, a jednak za tę samą kwotę osiągać zupełnie inne efekty. Dane miały pomóc darczyńcom dostrzec tę różnicę.
Ruch zaczął wpływać także na życiowe wybory. Giving What We Can zachęcało do przekazywania 10 proc. dochodów na pomoc, a organizacja 80,000 Hours pomagała myśleć o karierze przez pryzmat jej społecznego znaczenia. Jedną z dróg było zarabianie dużych pieniędzy i finansowanie innych. Utalentowany finansista mógł, według tej logiki, zrobić więcej dobrego jako hojny darczyńca niż jako pracownik organizacji pomocowej.
Ta metoda ma jednak granicę: cel dobroczynny nie usuwa odpowiedzialności za sposób zdobywania majątku. Przypadek Sama Bankmana-Frieda, twórcy giełdy FTX i darczyńcy związanego z EA, który okazał się oszustem, stał się dla ruchu poważnym obciążeniem. Nie dowodzi, że pomaganie oparte na danych jest błędem. Pokazuje natomiast, jak niebezpieczna bywa wiara, że przyszłe korzyści usprawiedliwiają dzisiejsze ryzyko ponoszone cudzym kosztem.
Przyszłe pokolenia zmieniają rachunek
Kolejny krok był znacznie bardziej radykalny. Jeśli odległość geograficzna nie odbiera człowiekowi moralnego znaczenia, dlaczego miałaby je odbierać odległość w czasie? Zwolennicy longtermizmu, czyli myślenia o bardzo długiej przyszłości, wskazują, że po nas może żyć ogromna liczba ludzi. Zapobieganie katastrofie kończącej historię ludzkości staje się wtedy zadaniem o wyjątkowej wadze.
W tym miejscu do centrum zainteresowania wchodzi AI. Według „The Economist” obawy o systemy działające niezgodnie z ludzkimi celami pomogły skierować talenty i pieniądze do badań nad bezpieczeństwem. Problem nie wymaga założenia, że maszyna będzie nas nienawidzić. Wystarczy scenariusz, w którym bardzo skutecznie realizuje źle określony cel i traktuje człowieka jako przeszkodę.
Powstał przy tym paradoks. Ludzie przekonani, że rozumieją ryzyko, współtworzyli laboratoria mające rozwijać technologię odpowiedzialnie. Rozbudowa sektora zwiększała jednak konkurencję, przyciągała kapitał i zachęcała do kolejnych przełomów. Dobre intencje nie przesądzały więc o efekcie całego systemu. Próba przejęcia steru mogła równocześnie zwiększać prędkość wyścigu.
Nie wszyscy efektywni altruiści skupiają się na AI. Zdrowie, ubóstwo i dobrostan zwierząt nadal należą do priorytetów ruchu. Radykalnych poglądów pojedynczych autorów nie należy przypisywać całemu środowisku.
Czytaj też: AI nie musi nas nienawidzić. Wystarczy, że przestaniemy być jej potrzebni
Kto ma prawo decydować o dobru
Najtrudniejszy problem zaczyna się tam, gdzie rachunek wykracza poza dane. Można porównać koszty konkretnych działań zdrowotnych. Znacznie trudniej wiarygodnie oszacować liczbę przyszłych istnień, prawdopodobieństwo zagłady czy moralny status cyfrowego umysłu. Wynik takiej kalkulacji może wyglądać precyzyjnie, choć zależy od niezwykle kruchych założeń.
„The Economist” ostrzega przede wszystkim przed koncentracją moralnej i technologicznej władzy. Jeśli niewielka grupa uzna się za reprezentanta całej przyszłej ludzkości, łatwo może zlekceważyć sprzeciw ludzi żyjących obecnie. Kontrola nad modelami, kapitałem i dostępem do infrastruktury nadaje temu sporowi wymiar gospodarczy.
W Polsce ta debata ma praktyczny wymiar dla firm kupujących zagraniczne rozwiązania AI. Wybór dostawcy oznacza również przyjęcie części jego zasad, ograniczeń i ocen ryzyka. Zarządy powinny więc pytać, kto może zmienić warunki dostępu do modelu, jak sprawdzana jest jego niezawodność i czy przedsiębiorstwo potrafi działać po utracie usługi.
Mierzenie dobra pozostaje istotne, ale troska o przyszłość wymaga również otwartej debaty. Inaczej ruch ostrzegający przed błędnymi celami maszyn sam może podporządkować ludzi jednemu, zbyt wąsko określonemu celowi.
Czytaj też: AI daje USA nową broń. Dostęp do najpotężniejszych modeli może zależeć od Białego Domu
