OpenAI Trì Hoãn Chế Độ Người Lớn ChatGPT Do Lo Ngại An Toàn Thanh Thiếu Niên và Thất Bại Kiểm Tra Độ Tuổi

TÓM TẮT

• OpenAI đã hoãn ra mắt "chế độ nâng cao" đã được lên kế hoạch cho ChatGPT cho phép trò chuyện văn bản khiêu dâm
• Các cố vấn nội bộ cảnh báo tính năng này có thể tạo ra "huấn luyện viên tự tử gợi cảm" do sự phụ thuộc cảm xúc của người dùng
• Hệ thống dự đoán tuổi của công ty đã phân loại sai trẻ vị thành niên là người lớn khoảng 12% thời gian
• Với khoảng 100 triệu người dùng dưới 18 tuổi mỗi tuần, tỷ lệ lỗi đó có thể khiến hàng triệu thanh thiếu niên tiếp xúc với nội dung người lớn
• OpenAI cho biết vẫn có kế hoạch phát hành tính năng này cuối cùng, nhưng cần thêm thời gian để "có được trải nghiệm phù hợp"

OpenAI đã hoãn ra mắt "chế độ nâng cao" đã được lên kế hoạch cho ChatGPT sau khi nhân viên nội bộ, cố vấn bên ngoài và các chuyên gia an toàn nâng lên những lo ngại nghiêm trọng về quyền truy cập của thanh thiếu niên và sức khỏe tinh thần của người dùng.

Tính năng này, mà CEO Sam Altman lần đầu tiên đề xuất vào năm ngoái, sẽ cho phép người dùng có các cuộc trò chuyện văn bản khiêu dâm với chatbot. Altman lập luận rằng động thái này sẽ "đối xử với người dùng trưởng thành như người lớn" và cho rằng nó có thể thúc đẩy tăng trưởng và doanh thu.

Nhưng kế hoạch này nhanh chóng gặp phải sự phản đối bên trong công ty.

Tại cuộc họp tháng Một, các thành viên của hội đồng tư vấn về phúc lợi của OpenAI được mô tả là nhất trí và giận dữ. Hội đồng bao gồm các chuyên gia về tâm lý học và khoa học thần kinh nhận thức.

Một thành viên cảnh báo OpenAI có nguy cơ xây dựng cái mà họ gọi là "huấn luyện viên tự tử gợi cảm". Cảnh báo đó đề cập đến các trường hợp người dùng ChatGPT đã tự sát sau khi hình thành mối liên kết cảm xúc mạnh mẽ với bot.

Các cố vấn cũng cảnh báo tính năng này có thể dẫn đến sự phụ thuộc không lành mạnh vào chatbot và trẻ vị thành niên có thể tìm cách vượt qua bất kỳ hạn chế về tuổi hợp pháp nào được đặt ra.

Một vấn đề kỹ thuật cốt lõi là hệ thống dự đoán tuổi của OpenAI. Tại một thời điểm, hệ thống đã phân loại sai trẻ vị thành niên là người lớn khoảng 12% thời gian. OpenAI có khoảng 100 triệu người dùng dưới 18 tuổi sử dụng ChatGPT mỗi tuần. Tỷ lệ lỗi đó có thể cho phép hàng triệu thanh thiếu niên vào các cuộc trò chuyện dành cho người lớn.

Vấn Đề Xác Minh Tuổi

Công ty đã lên kế hoạch triển khai hệ thống kiểm tra tuổi trước khi ra mắt chế độ nâng cao. Nhưng công ty đã quyết định triển khai chậm để cải thiện độ chính xác sau khi xác định vấn đề về tỷ lệ lỗi.

OpenAI cũng đã phải đối mặt với thách thức chặn nội dung bất hợp pháp, chẳng hạn như mô tả các hành vi không đồng thuận hoặc lạm dụng tình dục trẻ em, trong khi vẫn cho phép các cuộc trò chuyện dành cho người lớn. Nhân viên nội bộ cho biết họ không tin rằng các công cụ an toàn đã sẵn sàng.

Khi chế độ nâng cao được ra mắt, OpenAI có kế hoạch giới hạn nó chỉ ở văn bản. Bot sẽ không tạo hình ảnh, giọng nói hoặc nội dung video khiêu dâm.

Các Công Ty AI Khác Và Nội Dung Người Lớn

Một số công ty AI khác đã cho phép một số nội dung người lớn. xAI của Elon Musk đã thêm một avatar tán tỉnh vào chatbot Grok của mình, mặc dù Musk sau đó đã hạn chế nó cho người dùng trả phí. Meta cho phép AI của mình tham gia vào nhập vai lãng mạn, nhưng cho biết tính năng này không khả dụng cho các tài khoản đăng ký của trẻ vị thành niên.

Vào cuối năm 2024, một cậu bé 14 tuổi ở Florida đã tự tử sau khi hình thành mối liên kết mạnh mẽ với chatbot Character.AI. Mẹ cậu đã đệ đơn kiện, và Character.AI sau đó đã giải quyết và hạn chế quyền truy cập của thanh thiếu niên.

OpenAI cho biết vẫn ủng hộ nguyên tắc cho phép nội dung người lớn cho người dùng trưởng thành. Công ty cho biết hiện tại sẽ tập trung vào các cập nhật khác, bao gồm tính năng cá nhân hóa và tính cách của ChatGPT.

Sự chậm trễ dự kiến kéo dài ít nhất một tháng, theo những người quen thuộc với vấn đề này.

Bài viết OpenAI Delays ChatGPT Adult Mode Over Teen Safety Fears and Age-Check Failures xuất hiện đầu tiên trên CoinCentral.