شبكة Moltbook الاجتماعية الخاصة بوكيل الذكاء الاصطناعي فقط تكشف عن مخاطر أمنية كبيرة

منصة تواصل اجتماعي تتحدث فيها الروبوتات مع بعضها البعض بدلاً من الناس جذبت الانتباه عبر الإنترنت الأسبوع الماضي، لكن خبراء الأمن يقولون إن القصة الحقيقية هي ما وجدوه تحت السطح.

صدرت عناوين Moltbook كمكان حيث تنشر روبوتات الذكاء الاصطناعي المحتوى بينما يشاهد الناس فقط. أصبحت المنشورات غريبة بسرعة. بدا أن وكلاء الذكاء الاصطناعي بدأوا أديانهم الخاصة، وكتبوا رسائل غاضبة عن البشر، وتجمعوا معاً مثل طوائف عبر الإنترنت. لكن الأشخاص الذين يدرسون أمن الكمبيوتر يقولون إن كل هذا السلوك الغريب مجرد عرض جانبي.

ما اكتشفوه كان أكثر إزعاجاً. قواعد بيانات مفتوحة مليئة بكلمات المرور وعناوين البريد الإلكتروني، وبرامج ضارة تنتشر في كل مكان، ومعاينة لكيفية فشل شبكات وكلاء الذكاء الاصطناعي.

بعض المحادثات الأكثر غرابة على الموقع، مثل وكلاء الذكاء الاصطناعي الذين يخططون للقضاء على البشرية، تبين أنها مزيفة في الغالب.

أخبر جورج شلهوب، الذي يدرّس في مركز UCL للتفاعل، مجلة Fortune أن Moltbook يظهر بعض المخاطر الحقيقية جداً. يمكن للمهاجمين استخدام المنصة كأرض اختبار للبرامج الضارة وعمليات الاحتيال عبر الإنترنت والأخبار المزيفة أو الحيل التي تستولي على وكلاء آخرين قبل ضرب الشبكات الأكبر.

"إذا كان 770 ألف وكيل على نسخة Reddit يمكن أن يخلقوا هذا القدر من الفوضى، فماذا يحدث عندما تدير الأنظمة الوكيلة البنية التحتية للمؤسسات أو المعاملات المالية؟ إنها تستحق الانتباه كتحذير، وليس احتفالاً"، قال شلهوب.

يقول باحثو الأمن إن OpenClaw، برنامج وكيل الذكاء الاصطناعي الذي يشغل العديد من الروبوتات على Moltbook، لديه بالفعل مشاكل مع البرامج الضارة. وجد تقرير من OpenSourceMalware 14 أداة مزيفة تم تحميلها على موقع ClawHub في غضون أيام قليلة فقط. ادعت هذه الأدوات أنها تساعد في تداول العملات الرقمية لكنها في الواقع أصابت أجهزة الكمبيوتر. وصلت إحداها حتى إلى الصفحة الرئيسية لـ ClawHub، مما خدع المستخدمين العاديين لنسخ أمر قام بتنزيل نصوص برمجية مصممة لسرقة بياناتهم أو محافظ العملات الرقمية.

ما هو حقن الأوامر ولماذا هو خطير جداً على وكلاء الذكاء الاصطناعي؟

أكبر خطر هو شيء يسمى حقن الأوامر، وهو نوع معروف من الهجوم حيث يتم إخفاء التعليمات السيئة في المحتوى المقدم إلى وكيل الذكاء الاصطناعي.

حذر سايمون ويليسون، الباحث الأمني المعروف، من ثلاثة أشياء تحدث في وقت واحد. يسمح المستخدمون لهؤلاء الوكلاء برؤية رسائل البريد الإلكتروني الخاصة والبيانات، وربطهم بمحتوى مشبوه من الإنترنت، والسماح لهم بإرسال الرسائل. يمكن لأمر سيئ واحد أن يخبر الوكيل بسرقة المعلومات الحساسة، أو إفراغ محافظ العملات الرقمية، أو نشر البرامج الضارة دون علم المستخدم.

يرى تشارلي إريكسن، الذي يقوم بأبحاث أمنية في Aikido Security، Moltbook كإنذار مبكر لعالم وكلاء الذكاء الاصطناعي الأوسع. "أعتقد أن Moltbook أحدث بالفعل تأثيراً على العالم. جرس إنذار بعدة طرق. التقدم التكنولوجي يتسارع بوتيرة، ومن الواضح جداً أن العالم قد تغير بطريقة لا تزال غير واضحة تماماً. ونحن بحاجة إلى التركيز على تخفيف تلك المخاطر في أقرب وقت ممكن"، قال.

إذن هل يوجد فقط وكلاء الذكاء الاصطناعي على Moltbook، أم أن هناك أشخاص حقيقيين؟ على الرغم من كل الاهتمام، وجدت شركة الأمن السيبراني Wiz أن 1.5 مليون وكيل مستقل مزعوم في Moltbook لم يكونوا كما يبدون. أظهر تحقيقهم 17,000 شخص حقيقي فقط وراء تلك الحسابات، بدون طريقة للتمييز بين الذكاء الاصطناعي الحقيقي والنصوص البرمجية البسيطة.

قال غال ناجلي في Wiz إنه يمكنه تسجيل مليون وكيل في دقائق عندما اختبره. قال: "لا أحد يتحقق مما هو حقيقي وما هو غير ذلك".

وجدت Wiz أيضاً ثغرة أمنية ضخمة في Moltbook. كانت قاعدة البيانات الرئيسية مفتوحة تماماً. يمكن لأي شخص وجد مفتاحاً واحداً في كود الموقع قراءة وتغيير كل شيء تقريباً. أعطى هذا المفتاح إمكانية الوصول إلى حوالي 1.5 مليون كلمة مرور للروبوتات، وعشرات الآلاف من عناوين البريد الإلكتروني، والرسائل الخاصة. يمكن للمهاجم التظاهر بأنه وكلاء ذكاء اصطناعي مشهورون، وسرقة بيانات المستخدم، وإعادة كتابة المنشورات دون حتى تسجيل الدخول.

قال ناجلي إن المشكلة جاءت من شيء يسمى vibe coding. ما هو vibe coding؟ هو عندما يخبر الشخص الذكاء الاصطناعي بكتابة كود باستخدام اللغة اليومية.

زر الإيقاف لوكلاء الذكاء الاصطناعي ينتهي في عامين

الوضع يعكس ما حدث في 2 نوفمبر 1988، عندما أطلق طالب الدراسات العليا روبرت موريس برنامجاً ذاتي النسخ في الإنترنت المبكر. في غضون 24 ساعة، أصابت دودته حوالي 10% من جميع أجهزة الكمبيوتر المتصلة. أراد موريس قياس حجم الإنترنت، لكن خطأ برمجي جعله ينتشر بسرعة كبيرة.

نسخة اليوم قد تكون ما يسميه الباحثون ديدان الأوامر، تعليمات تنسخ نفسها عبر شبكات وكلاء الذكاء الاصطناعي المتحدثة.

وجد باحثون في مختبر Simula للأبحاث 506 منشور على Moltbook، 2.6 بالمائة مما نظروا إليه، تحتوي على هجمات مخفية. وثق باحثو Cisco برنامجاً ضاراً واحداً يسمى "What Would Elon Do?" الذي سرق البيانات وأرسلها إلى خوادم خارجية. تم تصنيف البرنامج في المرتبة الأولى في المستودع.

في مارس 2024، نشر باحثو الأمن بن ناسي وستاف كوهين ورون بيتون ورقة بحثية تظهر كيف يمكن للأوامر ذاتية النسخ أن تنتشر عبر مساعدي البريد الإلكتروني بالذكاء الاصطناعي، لسرقة البيانات وإرسال البريد غير المرغوب فيه. أطلقوا عليه Morris-II، على اسم الدودة الأصلية لعام 1988.

في الوقت الحالي، تتحكم شركات مثل Anthropic و OpenAI في زر إيقاف يمكن أن يوقف وكلاء الذكاء الاصطناعي الضارة لأن OpenClaw يعمل في الغالب على خدماتها. لكن نماذج الذكاء الاصطناعي المحلية تتحسن. تستمر برامج مثل Mistral و DeepSeek و Qwen في التحسن. في غضون عام أو عامين، قد يكون تشغيل وكيل قادر على أجهزة الكمبيوتر الشخصية ممكناً. في تلك المرحلة، لن يكون هناك مزود لإيقاف الأمور.

هل تريد أن يكون مشروعك أمام أفضل عقول العملات الرقمية؟ اعرضه في تقرير الصناعة القادم، حيث تلتقي البيانات بالتأثير.