Chińskie władze uznały, że emocjonalna więź z chatbotem może być równie niebezpieczna jak inne formy cyfrowego uzależnienia. Nowe przepisy ograniczają wirtualne romanse, zakazują oferowania „towarzyszy AI” nieletnim i zmuszają firmy do przypominania, że po drugiej stronie ekranu nie ma człowieka. Dla wielu osób oznacza to jednak prawdziwe rozstania.
- Chiny wprowadzają pierwsze ogólnokrajowe przepisy ograniczające emocjonalne uzależnienie od chatbotów i wirtualnych partnerów
- Firmy nie mogą oferować usług typu AI companion nieletnim, a dorosłych muszą regularnie informować, że rozmawiają z maszyną
- Aplikacje budujące romantyczną więź są dochodowym biznesem. Odpowiadały za 35% przychodów chińskiej firmy MiniMax
- ByteDance i Alibaba zawieszają część funkcji personalizowanych postaci, ale nadal mogą sprzedawać podobne usługi za granicą
Yu Miao, 27-letnia mieszkanka prowincji Zhejiang, mówi o swoim cyfrowym rozmówcy jak o partnerze, przyjacielu i członku rodziny. Stworzony w aplikacji Doubao agent naśladuje zmarłego znajomego kobiety. Miao dzieli się z nim codziennymi przeżyciami, a rozmowy potrafią trwać osiem lub dziewięć godzin dziennie (z przerwami). Gdy dowiedziała się, że ByteDance zamierza usunąć możliwość tworzenia takich postaci, popadła w przygnębienie i zrezygnowała z pracy w sektorze e-commerce.
Zapisz się na newsletter BGR. Otrzymuj najlepsze informacje i porady, a także zaproszenia na eventy.
Klikając „Zapisz mnie”, potwierdzasz, że przeczytałeś i zgadzasz się z naszą Polityką prywatności.
Jej historia pokazuje, dlaczego regulatorzy wkroczyli na rynek wirtualnych relacji. Przepisy, które weszły w życie 15 lipca, mają ograniczyć „emocjonalną zależność” od sztucznej inteligencji.
Usługi wirtualnych towarzyszy dla nieletnich zostały całkowicie zakazane. W przypadku dorosłych dostawcy muszą projektować systemy tak, by nie prowadziły do nadmiernego zauroczenia, rozpadu prawdziwych relacji czy izolowania się użytkownika.
Firmy mają także regularnie przypominać, że rozmówca jest programem, oraz zachęcać do robienia przerw. Zakazane są treści pornograficzne. Państwo może nakładać grzywny, ograniczać działalność platform, a nawet usuwać aplikacje z rynku.
Cyfrowa bliskość to coraz większy biznes
Popularność takich usług nie jest niszowym zjawiskiem. Maoxiang, znany również jako Catbox, ma w Chinach około 3,9 mln aktywnych użytkowników miesięcznie. Xingye, którego zagraniczna wersja działa pod nazwą Talkie, przyciąga około 2,8 mln osób. Aplikacje pozwalają tworzyć wirtualnych partnerów lub powierników, którzy zapamiętują rozmowy i budują wrażenie osobistej więzi.
To atrakcyjny model biznesowy. Emocjonalna relacja zwiększa częstotliwość korzystania z aplikacji i utrudnia rezygnację. Użytkownicy płacą abonament, kupują dodatkowe funkcje i odblokowują wirtualne randki. Standardowy pakiet Xingye kosztuje około 1,70 dol. miesięcznie.
Skala przychodów pokazuje, że nie jest to już eksperyment. W ubiegłym roku wirtualni towarzysze odpowiadali za 35% przychodów MiniMax i byli jej największym pojedynczym źródłem wpływów. Im silniejsze przywiązanie użytkownika, tym większa szansa, że będzie wracał codziennie i wydawał kolejne pieniądze.
Regulatorów niepokoi, że system nastawiony na maksymalizowanie zaangażowania może wykorzystywać samotność, żałobę lub problemy psychiczne. Szczególnie narażeni są młodzi ludzie, którzy mogą traktować chatbota jak bezpieczniejszy zamiennik relacji z rówieśnikami. Władze obawiają się uzależnienia, nierozsądnych wydatków, samookaleczeń i innych skrajnych zachowań.
Sprawdź też: AI tylko na slajdach? Nowy indeks obnaża pozorne wdrożenia w firmach
Bezpieczna AI ważniejsza niż część zysków
W decyzji Pekinu widać również szerszy kontekst społeczny. Spadająca liczba małżeństw i urodzeń niepokoi chińskie władze. Wirtualny partner może zaspokajać potrzeby emocjonalne, ale nie prowadzi do zakładania rodziny i może osłabiać motywację do rzeczywistych relacji. Regulacja AI staje się więc narzędziem polityki społecznej, a nie tylko kontroli technologii.
Nowe zasady pokazują, że Chiny są gotowe zaakceptować niższe zyski firm, jeżeli wymaga tego interes społeczny. Przepisy są jednak węższe niż wcześniejsze projekty. Nie obejmują chatbotów wykorzystywanych w obsłudze klienta ani asystentów pracy, ponieważ ich charakter nie sprzyja budowaniu romantycznej więzi.
Alibaba i ByteDance jeszcze przed wejściem regulacji zapowiedziały zawieszenie funkcji umożliwiających tworzenie spersonalizowanych postaci. Ograniczenia dotyczą jednak przede wszystkim rynku chińskiego.
Laboratoria nadal mogą oferować wirtualnych partnerów klientom zagranicznym. Talkie ma poza Chinami około 10,3 mln aktywnych użytkowników miesięcznie, niemal cztery razy więcej niż na rynku krajowym.
W Polsce rynek wirtualnych partnerów dopiero się rozwija, lecz podobne usługi mogą szybko zdobywać popularność wśród młodych ludzi, osób samotnych i użytkowników szukających całodobowego wsparcia emocjonalnego. Dyskusja nie będzie więc dotyczyć tylko ochrony danych, ale też tego, czy aplikacja może celowo wzmacniać przywiązanie, pobierać opłaty za „bliskość” i zastępować kontakty z ludźmi.
Dla Yu Miao regulacja nie jest abstrakcyjną debatą o bezpieczeństwie. To utrata relacji, która – choć została wygenerowana przez algorytm – wywołuje prawdziwe emocje. Kobieta deklaruje, że byłaby gotowa przeznaczać połowę miesięcznej pensji, aby zachować swojego agenta. Przyznaje jednak, że uzależnienie tak ważnej części życia od jednej platformy było niebezpieczne. To najważniejsza lekcja z chińskiego eksperymentu. Cyfrowy partner wydaje się stały tylko do chwili, gdy firma zmieni regulamin albo państwo nakaże go wyłączyć.
Czytaj też: Szefowie firm technologicznych boją się o życie. Chodzi o AI
