عمال كينيون يدربون نظارات الذكاء الاصطناعي من Meta يقولون إنهم يرون أكثر اللحظات حميمية للمستخدمين

كشف تحقيق أجرته الصحف السويدية Svenska Dagbladet وGöteborgs-Posten أن العمال المتعاقدين في كينيا الذين استأجرتهم Sama - وهي شركة كينية للاستعانة بمصادر خارجية تقدم خدمات تعليق البيانات - للمساعدة في تدريب أنظمة الذكاء الاصطناعي لشركة Meta Platforms معرضون بشكل كبير للصور ومقاطع الفيديو الشخصية التي التقطها مستخدمو النظارات الذكية Ray-Ban التابعة للشركة.

يسلط التقرير، الذي نُشر في 27 فبراير، الضوء على العمالة البشرية المخفية وراء دفع Meta نحو الذكاء الاصطناعي القابل للارتداء، ويثير أسئلة جديدة حول حماية البيانات ونقل البيانات عبر الحدود والأثر النفسي على مشرفي المحتوى العاملين لدى Sama في نيروبي.

يتم تسويق النظارات الذكية Ray-Ban من Meta، التي تم تطويرها بالشراكة مع EssilorLuxottica، كمساعد قائمة على الذكاء الاصطناعي يمكنه ترجمة اللغات ووصف المحيط والتقاط الصور ومقاطع الفيديو بدون استخدام اليدين والإجابة على الأسئلة حول ما يراه المستخدم.

ومع ذلك، وبعيدًا عن العرض المستقبلي، كشفت المقابلات التي أجرتها Svenska Dagbladet مع موظفي Sama وMeta الحاليين والسابقين أن اللقطات المسجلة عبر النظارات ينتهي بها الأمر على بعد آلاف الكيلومترات في كينيا، حيث يقوم المعلقون على البيانات بمراجعتها ووضع علامات عليها لتحسين أداء النظام.

الخصوصية، تُنتهك بهدوء

أخبر العديد من العمال الكينيين الصحيفة السويدية أنهم يواجهون بانتظام مواد حساسة في سياق عملهم، بما في ذلك مشاهد منزلية عادية إلى لحظات حميمة قد لا يدرك المستخدمون أنها تم التقاطها.

في بعض الحالات، قال العمال، تتضمن اللقطات معلومات مالية مثل البطاقات المصرفية المرئية في الإطار، أو تسجيلات تم إجراؤها في أماكن خاصة مثل غرف النوم والحمامات.

"في بعض مقاطع الفيديو، يمكنك رؤية شخص يذهب إلى المرحاض، أو يخلع ملابسه"، أخبر أحد عمال Sama الصحفيين. "لا أعتقد أنهم يعرفون، لأنهم لو عرفوا، لما كانوا يسجلون."

ادعى مقاول آخر أنه راجع لقطات تُظهر مرتدي النظارات وهو يضعها على طاولة بجانب السرير، لتدخل زوجته الغرفة وتخلع ملابسها، على ما يُفترض دون أن تدرك أنها كانت تُراقَب. وأظهرت لقطات أخرى حسبما ورد أن مرتدي النظارات يشاهد محتوى إباحيًا أو حتى يسجل نفسه أثناء ممارسة الجنس

وفقًا للتحقيق، كان هناك شفافية قليلة بشأن الأجهزة القابلة للارتداء. أعطى تجار التجزئة في أوروبا حسبما ورد معلومات غير متسقة حول ما إذا كانت البيانات التي تلتقطها النظارات تبقى على الجهاز أو يتم نقلها إلى خوادم Meta. أشارت الاختبارات المستقلة المشار إليها في التقرير إلى أن العديد من ميزات الذكاء الاصطناعي للنظارات تتطلب اتصالاً بالسحابة، مما يعني أنه يمكن معالجة الصور والمدخلات الصوتية عن بُعد بدلاً من محليًا على الجهاز.

علاقة Sama

تقدم Sama، المعروفة سابقًا باسم Samasource، خدمات تعليق البيانات لشركات التكنولوجيا الكبيرة مثل Meta وOpenAI. تم اتهام الشركة في الماضي بانتهاكات عمالية في بعض عقودها، خاصة مع OpenAI.

تتطلب Sama اتفاقيات سرية صارمة تحد من ما يمكن للموظفين الكشف عنه علنًا. لكن الحسابات التي نشرتها الصحف السويدية تشير إلى أن وعد الذكاء الاصطناعي السلس يتم تشغيله بواسطة نظام عمل يقوم فيه المراجعون البشريون بفرز كميات كبيرة من البيانات الخام غير المفلترة حتى تتمكن الخوارزميات من تعلم التعرف على الأشياء والبيئات والسياق.

تنص Meta في سياسات الخصوصية الخاصة بها على أن محتوى المستخدم قد يخضع للمراجعة البشرية لتحسين المنتجات وضمان الأمان. بالنسبة للمستخدمين الأوروبيين، فإن الشركة التابعة الأيرلندية مسؤولة عن الامتثال للائحة العامة لحماية البيانات في الاتحاد الأوروبي (GDPR).

ومع ذلك، يثير التحقيق أسئلة حول كيفية نقل البيانات التي تم جمعها في أوروبا أو الولايات المتحدة ومعالجتها في دول مثل كينيا، التي ليس لديها قرار كفاية من الاتحاد الأوروبي يعترف بأنظمة حماية البيانات الخاصة بها على أنها تعادل GDPR.

في حين أصبح تعليق البيانات والإشراف على المحتوى وتدريب الذكاء الاصطناعي أمرًا حاسمًا لطموحات نيروبي التقنية، فإن هذه الوظائف - بشكل أساسي لطلاب الجامعات والخريجين الشباب - تأتي مع أجور منخفضة وأعباء عمل ثقيلة والتعرض لمواد مزعجة.

دافعت Meta عن ممارساتها في بيانات عامة سابقة، قائلة إنها تستثمر في ضمانات الخصوصية وتقلل من كمية البيانات المستخدمة للتدريب. ومع ذلك، تشير الحسابات التي نشرتها الصحف السويدية إلى أن الخط الفاصل بين الذكاء الآلي والإشراف البشري أكثر ضبابية مما يفترضه العديد من المستهلكين.