Công nhân Kenya đào tạo kính AI của Meta cho biết họ nhìn thấy những khoảnh khắc riêng tư nhất của người dùng

Một cuộc điều tra của các tờ báo Thụy Điển Svenska Dagbladet và Göteborgs-Posten đã tiết lộ rằng các nhân viên hợp đồng tại Kenya được thuê bởi Sama—một công ty gia công phần mềm Kenya cung cấp dịch vụ gán nhãn dữ liệu—để giúp huấn luyện các hệ thống AI của Meta Platforms đang tiếp xúc sâu sắc với hình ảnh và video cá nhân được ghi lại bởi người dùng kính thông minh Ray-Ban của công ty.

Báo cáo được công bố vào ngày 27 tháng 2 đã làm sáng tỏ lao động con người ẩn giấu đằng sau nỗ lực của Meta trong lĩnh vực trí tuệ nhân tạo đeo được, và đặt ra những câu hỏi mới về bảo vệ dữ liệu, chuyển giao dữ liệu xuyên biên giới, và tác động tâm lý đối với những người kiểm duyệt nội dung làm việc cho Sama tại Nairobi.

Kính thông minh Ray-Ban của Meta, được phát triển hợp tác với EssilorLuxottica, được tiếp thị như một trợ lý hỗ trợ bởi AI có thể dịch ngôn ngữ, mô tả môi trường xung quanh, chụp ảnh và quay video rảnh tay, và trả lời các câu hỏi về những gì người dùng đang nhìn thấy.

Tuy nhiên, ngoài lời quảng cáo tương lai, các cuộc phỏng vấn với nhân viên hiện tại và cựu nhân viên của Sama và Meta do Svenska Dagbladet thực hiện đã tiết lộ rằng video được ghi lại qua kính cuối cùng đến cách hàng nghìn km tại Kenya, nơi các chuyên viên gán nhãn dữ liệu xem xét và gắn nhãn nó để cải thiện hiệu suất của hệ thống.

Quyền riêng tư, bị phá vỡ âm thầm

Một số công nhân Kenya nói với tờ báo Thụy Điển rằng họ thường xuyên gặp phải tài liệu nhạy cảm trong quá trình làm việc, bao gồm các cảnh gia đình bình thường đến những khoảnh khắc riêng tư mà người dùng có thể không nhận ra đang bị ghi lại.

Trong một số trường hợp, các công nhân cho biết, video bao gồm thông tin tài chính như thẻ ngân hàng hiển thị trong khung hình, hoặc các bản ghi được thực hiện trong không gian riêng tư như phòng ngủ và phòng tắm.

"Trong một số video, bạn có thể thấy ai đó đi vệ sinh, hoặc đang cởi quần áo," một công nhân Sama nói với các phóng viên. "Tôi không nghĩ họ biết, vì nếu họ biết, họ sẽ không ghi hình."

Một nhà thầu khác tuyên bố họ đã xem xét video cho thấy người đeo kính đặt chúng xuống bàn cạnh giường, chỉ để vợ anh ta bước vào phòng và cởi quần áo, có lẽ không biết rằng cô ấy đang bị theo dõi. Các video khác được cho là cho thấy người đeo xem phim khiêu dâm hoặc thậm chí tự quay mình quan hệ tình dục

Theo cuộc điều tra, có rất ít minh bạch đối với các thiết bị đeo được. Các nhà bán lẻ ở châu Âu được cho là đưa ra thông tin không nhất quán về việc liệu dữ liệu được ghi lại bởi kính có còn trên thiết bị hay được truyền đến máy chủ của Meta. Kiểm tra độc lập được trích dẫn trong báo cáo chỉ ra rằng nhiều tính năng AI của kính yêu cầu kết nối đám mây, có nghĩa là hình ảnh và đầu vào giọng nói có thể được xử lý từ xa thay vì cục bộ trên thiết bị.

Kết nối với Sama

Sama, trước đây là Samasource, cung cấp dịch vụ gán nhãn dữ liệu cho các công ty công nghệ lớn như Meta và OpenAI. Công ty đã bị cáo buộc trong quá khứ vi phạm lao động trong một số hợp đồng của mình, đặc biệt là với OpenAI.

Sama yêu cầu các thỏa thuận bảo mật nghiêm ngặt hạn chế những gì nhân viên có thể tiết lộ công khai. Nhưng các tài khoản được xuất bản bởi các tờ báo Thụy Điển cho thấy rằng lời hứa về AI không ma sát được vận hành bởi một hệ thống lao động trong đó các người đánh giá con người sàng lọc khối lượng lớn dữ liệu thô, chưa được lọc để thuật toán có thể học cách nhận diện các đối tượng, môi trường và ngữ cảnh.

Meta tuyên bố trong chính sách bảo mật của mình rằng nội dung người dùng có thể phải chịu sự xem xét của con người để cải thiện sản phẩm và đảm bảo an toàn. Đối với người dùng châu Âu, công ty con Ireland của công ty chịu tr책nhiệm tuân thủ Quy định Bảo vệ Dữ liệu Chung của EU (GDPR).

Tuy nhiên, cuộc điều tra đặt ra câu hỏi về cách dữ liệu được thu thập ở châu Âu hoặc Hoa Kỳ được chuyển giao và xử lý ở các quốc gia như Kenya, những nước không có quyết định đầy đủ của EU công nhận chế độ bảo vệ dữ liệu của họ tương đương với GDPR.

Mặc dù gán nhãn dữ liệu, kiểm duyệt nội dung và đào tạo AI đã trở nên quan trọng đối với tham vọng công nghệ của Nairobi, những công việc này—chủ yếu dành cho sinh viên đại học và người mới tốt nghiệp—đi kèm với mức lương thấp, khối lượng công việc nặng nề và tiếp xúc với tài liệu đáng lo ngại.

Meta đã bảo vệ các thực tiễn của mình trong các tuyên bố công khai trước đây, nói rằng họ đầu tư vào các biện pháp bảo vệ quyền riêng tư và giảm thiểu lượng dữ liệu được sử dụng để đào tạo. Tuy nhiên, các tài khoản được xuất bản bởi các tờ báo Thụy Điển cho thấy ranh giới giữa trí tuệ tự động và sự giám sát của con người mờ nhạt hơn nhiều người tiêu dùng cho là như vậy.