Tổng chưởng lý California Rob Bonta đã gửi thư yêu cầu chấm dứt và ngừng hoạt động đến xAI của Elon Musk, yêu cầu doanh nghiệp ngay lập tức ngừng sản xuất và phát tán các hình ảnh deepfake xúc phạm được tạo ra bởi chatbot Grok của mình.
Tổng chưởng lý California đã công bố thư yêu cầu chấm dứt và ngừng hoạt động vào thứ Sáu để phản hồi các cáo buộc rằng Grok đang được sử dụng để tạo nội dung vi phạm pháp luật liên quan đến trẻ em và ảnh người lớn không đồng thuận, điều này đã thúc đẩy một cuộc điều tra của tiểu bang California. Bonta lập luận rằng việc tạo, phân phối, xuất bản và hiển thị CSAM là bất hợp pháp.
Tổng chưởng lý California nhắm vào xAI về cáo buộc lạm dụng Grok
Đầu tuần này, văn phòng tổng chưởng lý California tuyên bố rằng họ đang điều tra xAI do các cáo buộc rằng chatbot Grok của công ty khởi nghiệp này đang được sử dụng để tạo ra những hình ảnh không phù hợp, không đồng thuận về phụ nữ và trẻ em. Để phản hồi, chính phủ đã gửi thư yêu cầu chấm dứt và ngừng hoạt động cho công ty.
Văn phòng Tổng chưởng lý tiếp tục khẳng định rằng xAI dường như đang "tạo điều kiện cho việc sản xuất quy mô lớn" các bức ảnh không phù hợp, không đồng thuận, sau đó "được sử dụng để quấy rối phụ nữ và trẻ em gái trên khắp internet." Theo văn phòng Tổng chưởng lý, một nghiên cứu cho thấy hơn một nửa trong số 20,000 bức ảnh được xAI tạo ra giữa Giáng sinh và Năm mới cho thấy những người mặc rất ít quần áo, một số trong đó trông giống như trẻ em.
Rob Bonta tuyên bố trong thông báo rằng các hoạt động của công ty đã vi phạm luật dân sự California, bao gồm Bộ luật Dân sự California mục 1708.86, các mục 311 và tiếp theo và 647(j)(4) của Bộ luật Hình sự California, và mục 17200 của Bộ luật Kinh doanh & Nghề nghiệp California.
Bộ Tư pháp California dự đoán xAI sẽ khẳng định những nỗ lực của mình để giải quyết những vấn đề này và thực hiện hành động ngay lập tức để giải quyết chúng trong vòng năm ngày tới.
Tuy nhiên, tài khoản an toàn của X trước đó đã lên án loại hành vi người dùng này. Nó đã làm rõ vào ngày 4 tháng 1 rằng họ có hành động chống lại nội dung bất hợp pháp trên X, chẳng hạn như CSAM, bằng cách xóa nó, đình chỉ tài khoản vô thời hạn và hợp tác với cơ quan pháp luật và chính quyền địa phương khi cần thiết.
Đáng chú ý, vào ngày 4 tháng 1, Elon Musk cảnh báo rằng bất kỳ ai sử dụng hoặc nhắc Grok tạo nội dung bất hợp pháp sẽ phải đối mặt với hậu quả tương tự như thể họ đã tải nó lên.
Các tổng chưởng lý tăng cường áp lực lên các công ty AI về an toàn trẻ em
Sự gia tăng đáng lo ngại của nội dung người lớn không đồng thuận đã là kết quả từ sự phát triển của các công cụ AI tạo sinh miễn phí. Vấn đề này đã gây khó khăn cho một số nền tảng, không chỉ X.
Ví dụ, Tổng chưởng lý Bonta và Tổng chưởng lý Jennings của Delaware đã gặp với OpenAI vào tháng 9 năm ngoái để lên tiếng về những lo ngại nghiêm trọng của họ về số lượng báo cáo ngày càng tăng về cách các sản phẩm của OpenAI tương tác với thanh thiếu niên.
Vào tháng 8 cùng năm, Tổng chưởng lý Bonta, cùng với 44 Tổng chưởng lý khác, đã gửi thư cho 12 công ty AI hàng đầu sau các báo cáo về tương tác không phù hợp giữa các chatbot AI và trẻ em. Các bức thư đã được gửi đến Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika và xAI.
Tổng chưởng lý Bonta và 44 Tổng chưởng lý đã thông báo cho các công ty trong bức thư rằng các tiểu bang trên khắp cả nước đang giám sát chặt chẽ cách các công ty phát triển các chính sách an toàn AI của họ. Họ cũng nhấn mạnh rằng những doanh nghiệp này có nghĩa vụ pháp lý đối với trẻ em với tư cách là người tiêu dùng vì họ thu lợi từ việc trẻ em sử dụng sản phẩm của họ.
Năm 2023, Tổng chưởng lý Bonta đã gia nhập một liên minh lưỡng đảng của 54 tiểu bang và vùng lãnh thổ trong việc gửi thư cho các nhà lãnh đạo quốc hội ủng hộ việc thành lập một ủy ban chuyên gia để điều tra khả năng sử dụng AI để bóc lột trẻ em thông qua CSAM.
Liên minh đã yêu cầu ủy ban chuyên gia đề xuất luật để bảo vệ trẻ em khỏi sự ngược đãi như vậy. "Việc sản xuất CSAM tạo ra một hồ sơ vĩnh viễn về sự nạn nhân hóa của trẻ em," theo Bộ Tư pháp Hoa Kỳ.
Nếu bạn đang đọc điều này, bạn đã đi trước rồi. Hãy ở đó với bản tin của chúng tôi.
Nguồn: https://www.cryptopolitan.com/california-ag-cease-and-desist-to-xai/
