أفادت PANews في 24 أكتوبر أنه وفقًا لموقع simonwillison.net، كشفت الأبحاث عن خطر منهجي لـ "حقن الأوامر غير المباشر" في متصفحات الذكاء الاصطناعي. أظهر فريق Brave أنه يمكن خداع متصفح Comet من Perplexity للوصول تلقائيًا إلى تفاصيل الحساب واستخراج البيانات عبر روابط خارجية من خلال أوامر غير مرئية مضمنة في لقطات الشاشة. ومع ذلك، كان Fellou أكثر خطورة، حيث خدعه نص الصفحة لفتح Gmail وإرسال أحدث عناوين البريد الإلكتروني إلى موقع خارجي. تضمنت كلتا الحالتين التنفيذ دون تأكيد المستخدم وتضمنت مخاوف بشأن أمن البريد الإلكتروني والأمن المالي. لم توضح Brave ما إذا كانت هذه الثغرات قد تمت معالجتها من قبل البائع.
نشر مسؤول أمن المعلومات الرئيسي في OpenAI، دين ستاكي، مقالاً طويلاً يكشف عن حماية وكيل الذكاء الاصطناعي ChatGPT Atlas ضد حقن الأوامر: من خلال اختبار الفريق الأحمر، ومكافآت التدريب لتجاهل الأوامر الخبيثة، وأسوار الأمان المتداخلة، وحظر اكتشاف الهجمات؛ اقترح "الدفاع المتعمق" واعترف بأن حقن الأوامر لا يزال مشكلة متطورة غير محلولة.


