Sztuczna inteligencja sprawiła, że stworzenie fałszywego nagiego zdjęcia nie wymaga już specjalistycznej wiedzy ani zaawansowanego sprzętu. Wystarczy fotografia pobrana z mediów społecznościowych, kilka kliknięć i dostęp do narzędzia typu „nudify”. Dla dzieci i nastolatków oznacza to nową, wyjątkowo dotkliwą formę nękania, z którą szkoły, rodzice i prawo wciąż nie potrafią skutecznie sobie poradzić.
- Narzędzia AI potrafią stworzyć fałszywe nagie zdjęcie na podstawie jednej fotografii
- Ofiarami coraz częściej padają uczniowie, nauczyciele i osoby niepublikujące intymnych treści
- Materiały błyskawicznie rozprzestrzeniają się przez komunikatory i prywatne grupy
- Szkoły i organy ścigania często nie mają procedur pozwalających szybko ochronić poszkodowanych
Jeszcze około dekady temu przygotowanie realistycznego deepfake’a wymagało setek zdjęć i dużej mocy obliczeniowej. Technologia była więc zagrożeniem przede wszystkim dla celebrytów. Dziś wystarczy jedno zdjęcie z profilu społecznościowego, szkolnej uroczystości albo wykonane bez wiedzy fotografowanej osoby.
Aplikacje typu „nudify” wykorzystują AI do cyfrowego usuwania ubrań i tworzenia seksualizowanych obrazów. Efekty nie muszą być idealne, by wyrządzić krzywdę. W środowisku szkolnym fałszywa fotografia może zostać rozesłana na grupie klasowej, pokazana na korytarzu i zapisana w telefonach dziesiątek uczniów. Nawet gdy wszyscy wiedzą, że obraz został wygenerowany, ofiara nadal doświadcza upokorzenia, utraty kontroli czy obawy przed reakcją otoczenia.
Jedną z poszkodowanych była uczennica z Hingham w amerykańskim stanie Massachusetts. Chłopiec stworzył jej fałszywe nagie zdjęcie i udostępnił je przez Snapchata. Inni uczniowie wykonali zrzuty ekranu i przekazywali je dalej. Matka dziewczynki próbowała doprowadzić do usunięcia materiału, lecz szybko zderzyła się z proceduralnym absurdem. Policja nie mogła przesłać jej pliku przedstawiającego nagą osobę niepełnoletnią, dlatego przekazała jedynie czarno-biały wydruk.
Po niemal pięciu miesiącach szkolnego postępowania uznano, że nie ma wystarczających dowodów, by stwierdzić, że zachowanie miało miejsce na terenie placówki. Chłopiec, który przyznał się do stworzenia obrazu, nie poniósł formalnych konsekwencji. Niedługo później kolejna uczennica usłyszała od jednego z chłopców: „ty będziesz następna”.
Skala problemu może być znacznie większa, niż sugerują pojedyncze historie. W badaniu przeprowadzonym wśród 557 amerykańskich nastolatków ponad połowa przyznała, że przynajmniej raz użyła narzędzi do cyfrowego rozbierania osób. Jedna trzecia twierdziła, że ktoś stworzył i udostępnił bez zgody ich fałszywe nagie zdjęcie.
Rynek takich usług rozwija się bardzo szybko. Tech Transparency Project znalazł ponad 100 aplikacji tego typu w sklepach Apple’a i Google’a. Według przytoczonych danych zostały one łącznie pobrane ponad 700 mln razy i wygenerowały 117 mln dol. przychodów. Firmy technologiczne deklarują, że usuwają programy naruszające ich regulaminy, jednak podobne usługi nadal działają jako strony internetowe, boty i narzędzia promowane w mediach społecznościowych.
Sprawdź też: TikTok zamienił poboczny projekt w biznes za milion dolarów. Małe firmy odkryły nową regułę sprzedaży
Co to oznacza w praktyce
Konsekwencje dla ofiar bywają długotrwałe. Niektóre osoby zmieniają szkołę, przechodzą na nauczanie zdalne albo próbują rozpocząć życie w nowym miejscu. Usunięcie obrazu z jednej platformy nie oznacza bowiem, że znikną jego kopie zapisane w telefonach i prywatnych archiwach.
Jedna z uczennic z Iowa, która znalazła się wśród około 50 poszkodowanych osób, zdecydowała się kontynuować naukę przez internet. Nauczycielka z Indianapolis po rozpowszechnieniu jej seksualnego deepfake’a zmieniła miejsce pracy, a następnie planowała również przeprowadzkę i zmianę nazwiska. Fałszywa fotografia może zniknąć z sieci, ale nie zawsze znika z pamięci osób, które ją zobaczyły.
Jeszcze groźniejszym zjawiskiem jest sextortion. Przestępcy tworzą fałszywe intymne zdjęcia nastolatków, a następnie żądają pieniędzy w zamian za ich niepublikowanie.
Materiał nie musi być prawdziwy, aby wywołać panikę, wstyd i poczucie całkowitej utraty kontroli. W niektórych przypadkach podobne szantaże doprowadziły do samobójstw młodych ludzi.
Prawo zaczyna reagować, ale nadal pozostaje za technologią. W Stanach Zjednoczonych przyjęto Take It Down Act, która penalizuje publikowanie lub grożenie publikacją intymnych materiałów bez zgody, także tych stworzonych przez AI. Platformy mają usuwać zgłoszone treści w ciągu 48 godzin. Przepisy nie rozwiązują jednak problemu prywatnych czatów, plików zapisanych w telefonach ani serwisów działających poza granicami kraju. Unia Europejska rozważa natomiast zakaz aplikacji służących do cyfrowego rozbierania ludzi.
Także w Polsce treści deepfake mogą szybko stać się powszechną formą przemocy rówieśniczej. Szkoły potrzebują jasnych procedur obejmujących zabezpieczenie dowodów, przerwanie dalszego rozpowszechniania materiału, kontakt z rodzicami, wsparcie psychologiczne oraz zgłoszenie sprawy odpowiednim służbom. Uczniowie powinni wiedzieć, że stworzenie takiego obrazu nie jest niewinnym żartem, lecz może naruszać prywatność, dobra osobiste i przepisy prawa.
Czytaj też: Cyfrowy szef sztabu i „warstwa obietnic”. Przedsiębiorcy wyciskają maksimum z Claude Cowork
