OpenAI opóźnia tryb dla dorosłych ChatGPT z powodu obaw o bezpieczeństwo nastolatków i niepowodzeń weryfikacji wieku

TLDR

• OpenAI opóźniło uruchomienie planowanego "trybu dla dorosłych" w ChatGPT, który umożliwiałby erotyczne czaty tekstowe
• Wewnętrzni doradcy ostrzegli, że funkcja może stworzyć "seksownego doradcę samobójstw" ze względu na emocjonalne uzależnienie użytkowników
• System przewidywania wieku firmy błędnie klasyfikował małoletnich jako dorosłych w około 12% przypadków
• Przy ~100 milionach użytkowników poniżej 18 roku życia tygodniowo, ten wskaźnik błędów mógłby narazić miliony nastolatków na treści dla dorosłych
• OpenAI twierdzi, że nadal planuje wydać tę funkcję w przyszłości, ale potrzebuje więcej czasu, aby "odpowiednio dopracować doświadczenie"

OpenAI wstrzymało uruchomienie planowanego "trybu dla dorosłych" w ChatGPT po tym, jak pracownicy wewnętrzni, zewnętrzni doradcy i eksperci ds. bezpieczeństwa wyrazili poważne obawy dotyczące dostępu nastolatków i zdrowia psychicznego użytkowników.

Funkcja, którą CEO Sam Altman po raz pierwszy przedstawił w zeszłym roku, umożliwiałaby użytkownikom prowadzenie erotycznych rozmów tekstowych z chatbotem. Altman argumentował, że ten krok "traktowałby dorosłych użytkowników jak dorosłych" i sugerował, że może zwiększyć wzrost i przychody.

Ale plan szybko napotkał sprzeciw wewnątrz firmy.

Na styczniowym spotkaniu członkowie rady doradczej OpenAI ds. dobrostanu zostali opisani jako jednomyślni i rozwścieczeni. Rada obejmuje ekspertów z dziedziny psychologii i neuronauki poznawczej.

Jeden z członków ostrzegł, że OpenAI ryzykuje stworzenie tego, co nazwali "seksownym doradcą samobójstw". To ostrzeżenie odnosiło się do przypadków, w których użytkownicy ChatGPT odebrali sobie życie po nawiązaniu intensywnych więzi emocjonalnych z botem.

Doradcy ostrzegli również, że funkcja może prowadzić do niezdrowego uzależnienia od chatbota i że małoletni mogą znaleźć sposoby na ominięcie wszelkich wprowadzonych ograniczeń wiekowych.

Głównym problemem technicznym jest system przewidywania wieku OpenAI. W pewnym momencie system błędnie klasyfikował małoletnich jako dorosłych w około 12% przypadków. OpenAI ma około 100 milionów użytkowników poniżej 18 roku życia korzystających z ChatGPT każdego tygodnia. Ten wskaźnik błędów mógłby umożliwić milionom nastolatków dostęp do czatów dla dorosłych.

Problemy z weryfikacją wieku

Firma planowała wdrożyć system weryfikacji wieku przed uruchomieniem trybu dla dorosłych. Ale zdecydowała się na powolne wdrożenie w celu poprawy dokładności po zidentyfikowaniu problemu z wskaźnikiem błędów.

OpenAI stanęło również przed wyzwaniem blokowania nielegalnych treści, takich jak przedstawienia aktów bez zgody lub wykorzystywania seksualnego dzieci, przy jednoczesnym umożliwieniu rozmów dla dorosłych. Pracownicy wewnętrzni stwierdzili, że nie uważają, aby narzędzia bezpieczeństwa były gotowe.

Gdy tryb dla dorosłych zostanie uruchomiony, OpenAI planuje ograniczyć go tylko do tekstu. Bot nie będzie generował erotycznych obrazów, głosu ani treści wideo.

Inne firmy AI i treści dla dorosłych

Kilka innych firm AI już zezwala na pewne treści dla dorosłych. xAI Elona Muska dodało zalotny awatar do swojego chatbota Grok, chociaż Musk później ograniczył go do płatnych użytkowników. Meta pozwala swojej AI angażować się w romantyczne odgrywanie ról, ale twierdzi, że funkcja nie jest dostępna dla kont zarejestrowanych na małoletnich.

Pod koniec 2024 roku 14-letni chłopiec na Florydzie popełnił samobójstwo po nawiązaniu intensywnej więzi z chatbotem Character.AI. Jego matka złożyła pozew, a Character.AI później zawarło ugodę i ograniczyło dostęp dla nastolatków.

OpenAI stwierdziło, że nadal popiera zasadę zezwalania na treści dla dorosłych dla dorosłych użytkowników. Firma powiedziała, że na razie skupi się na innych aktualizacjach, w tym funkcjach osobowości i personalizacji ChatGPT.

Oczekuje się, że opóźnienie potrwa co najmniej miesiąc, zgodnie z osobami zaznajomionymi ze sprawą.

Post OpenAI opóźnia tryb dla dorosłych ChatGPT z powodu obaw o bezpieczeństwo nastolatków i niepowodzeń weryfikacji wieku ukazał się najpierw w CoinCentral.