هل يجب عليك المخاطرة باستخدام متصفح الذكاء الاصطناعي؟

لم تبدأ متصفحات الويب كمحركات بحث أو مساعدين — كانت أدوات بسيطة لتحميل صفحات الويب. على مدى العقود، اكتسبت علامات التبويب والإضافات والبحث المدمج وميزات أخرى حولتها إلى مراكز للحياة عبر الإنترنت.

\ الآن، تتخذ المتصفحات المدعومة بالذكاء الاصطناعي الخطوة التالية. فهي تلخص المحتوى، وتجيب على الأسئلة، وتحاول توقع ما يحتاجه المستخدم. على الرغم من أنها يمكن أن تقدم نتائج ذكية وتوفر الوقت، إلا أن هذه الراحة تأتي مع مخاطر جديدة للخصوصية والأمان.

ما هو متصفح الذكاء الاصطناعي؟

يعمل متصفح الذكاء الاصطناعي مثل متصفح الويب القياسي، ولكنه يحتوي على طبقة ذكاء اصطناعي يمكنها قراءة محتوى الويب والتفاعل معه نيابة عن المستخدم. بدلاً من تحميل الصفحات، يمكنه تفسير النص، واستخراج الأجزاء المهمة، والإجابة على الأسئلة بلغة بسيطة، وتنفيذ مهام متعددة كانت تتطلب في السابق العديد من الجداول وعمليات البحث.

\ من الأسهل التفكير فيها كهجين بين المتصفح العادي والمساعد المحادثة. تجمع هذه الأدوات بين العرض التقليدي للصفحة وواجهة الدردشة التي تلخص المقالات، وتستشهد بالمصادر، وتتابع الأسئلة. تهدف إلى تقليص البحث إلى بضعة مطالبات سريعة بدلاً من عشرات النقرات.

\ وجد استطلاع أجراه مركز أسوشيتد برس-نورك للبحوث في الشؤون العامة أن 60% من الأمريكيين يجدون المعلومات باستخدام الذكاء الاصطناعي على الأقل في بعض الأحيان، لذلك تستفيد متصفحات الذكاء الاصطناعي من هذا الطلب. تشمل الأمثلة المستخدمة بالفعل Comet من Perplexity و Atlas من ChatGPT. تشمل ميزاتها الرئيسية:

• التلخيص: يكثف المقالات الطويلة في ملخص قابل للمسح
• البحث التفاعلي: يمكن طرح أسئلة متابعة، وتوضيح النتائج، وتحسين الاستعلامات
• أتمتة المهام: يؤتمت الإجراءات الروتينية مثل ملء النماذج، واستخراج البيانات من صفحات متعددة، وإنشاء المسودات، أو تجميع القوائم من نتائج البحث.

\ تغير كل من هذه الميزات كيفية تصفح الناس. المهام التي كانت تستغرق وقتًا أصبحت أسرع، لكنها تنقل أيضًا التحكم إلى طبقة الذكاء الاصطناعي في المتصفح.

المخاطر الأساسية

كل صفحة يفتحها المستخدم، أو استعلام يكتبه، أو مقتطف يلخصه الذكاء الاصطناعي يمكن أن يصبح بيانات يعالجها المتصفح، وحسب الإعداد، يرسلها إلى خوادم الذكاء الاصطناعي الخارجية. يمكن أن تتضمن هذه المعلومات سجل التصفح، ومحتوى الصفحة، ومدخلات النماذج، واستعلامات البحث — وهي بيانات يمكن للمهاجمين أو الأطراف الثالثة استخدامها إذا غادرت جهازهم.

\ تخلق هذه القدرة سطح هجوم جديد تمامًا. على سبيل المثال، يمكن للمهاجمين إنشاء محتوى ويب يبدو غير ضار ولكنه يحتوي على تعليمات تخدع المساعد لتنفيذ إجراءات أو الكشف عن معلومات حساسة — وهي فئة من العيوب تُعرف باسم حقن المطالبات. أظهرت عمليات التدقيق الأمني أن متصفحات الذكاء الاصطناعي معرضة لهجمات حقن المطالبات غير المباشرة، والتي يمكن أن تمكّن صفحة خبيثة من تصعيد الامتيازات أو الوصول إلى جلسات مصادق عليها.

\ هناك خطر أمني آخر وهو تسميم البيانات. إذا تم بناء قاعدة معرفة الذكاء الاصطناعي من محتوى الويب، يمكن للمهاجمين زرع وثائق مزيفة لتشويه سلوك النموذج، مما يؤثر لاحقًا على مخرجاته. تظهر التحليلات الأخيرة أن تسميم النموذج يمكن أن يكون فعالاً حتى ضد نماذج اللغة الكبيرة (LLMs). عند حقن 250 صفحة خبيثة فقط في نماذج LLMs بمعلمات 13B، أظهرت التجربة نجاحًا في تغيير المخرجات. نتيجة لذلك، يمكن أن تكون متصفحات الذكاء الاصطناعي عرضة للخطر مثل نماذج LLMs إلى أجل غير مسمى.

\ نماذج LLMs عرضة أيضًا لإنتاج نتائج معقولة ولكنها غير صحيحة تُعرف باسم الهلوسة. في متصفح ذكاء اصطناعي يعمل نيابة عن المستخدم — سواء في صياغة رسائل البريد الإلكتروني أو ملء النماذج — يمكن أن تسبب تلك الأخطاء التي تبدو معقولة ضررًا حقيقيًا. قد يقدم تعليمات أو نصائح غير صحيحة. وثق الباحثون والممارسون حالات أدت فيها أخطاء النموذج إلى إخفاقات تشغيلية خطيرة ومخرجات مضللة.

حجج مع وضد استخدام متصفح الذكاء الاصطناعي

يمكن لمتصفحات الذكاء الاصطناعي جعل مهام الويب اليومية أسرع بشكل ملحوظ وأكثر سهولة. فهي تحول المقالات الطويلة إلى ملخصات سريعة، وتتيح للناس طرح أسئلة متابعة، ويمكنها أتمتة مهام التصفح المتكررة. كل ذلك يساعد على الإنتاجية ويجعل الويب أسهل في الاستخدام للأشخاص ذوي الاحتياجات المختلفة. لأنها تجعل حياة المستخدمين أسهل، فإن اعتمادها كبير بالفعل. في الواقع، 63% من مواقع الويب تتلقى الآن بعض حركة المرور على الأقل من روبوتات الدردشة بالذكاء الاصطناعي.

\ ومع ذلك، فإن هذه المكاسب تركز أيضًا البيانات وصنع القرار والثقة داخل طبقة واحدة غالبًا ما تكون غير شفافة. باختصار، يتم تسليم الراحة والقوة إلى برامج لا يتحكم فيها المستخدمون بشكل كامل أو لا يمكنهم تدقيقها بسهولة.

\ يمكن أن تخلق هذه المشكلات تعقيدات للمستخدمين اليوميين لأنها تزيد من احتمالية تعرض عمليات البحث الخاصة أو إساءة استخدامها. بالنسبة للموظفين الذين يستخدمونها، فإنها تخلق تبعيات هشة. ومما يزيد من المخاطر حقيقة أن العديد من العاملين عن بعد يفتقرون بالفعل إلى الوعي الأمني الأساسي، حيث أن ما يقرب من 25% من الموظفين عن بعد لا يفهمون بروتوكولات أمان أجهزتهم. قد يتوقف الناس عن التحقق المزدوج من المخرجات الآلية، ويمكن أن تتحول أخطاء النموذج الصغيرة إلى أخطاء مكلفة.

\ بالنظر إلى تلك العواقب، فإن الخيار العقلاني اليوم هو الحذر. يجب ألا تكون متصفحات الذكاء الاصطناعي بديلاً شاملاً للتصفح العادي أو سير العمل الحساسة. يجب أن يكون استخدامها محدودًا ويعامل كشيء للتحقق منه قبل التصرف.

كيفية استخدام متصفحات الذكاء الاصطناعي بأمان

عندما يقرر شخص استخدام متصفح ذكاء اصطناعي، يجب عليه تحديد ما يعطيه له باستخدام الخطوات التالية:

• استخدم متصفحًا تقليديًا للمهام الحساسة، مثل الخدمات المصرفية والبريد الإلكتروني وبوابات الصحة. على سبيل المثال، تجنب تسجيل الدخول إلى حساب مالي لمنع حدوث خرق.
• قم بإنشاء حساب مخصص لملف تعريف متصفح الذكاء الاصطناعي الخاص بك وحمايته بكلمة مرور فريدة والمصادقة متعددة العوامل.
• قم بتدقيق وتحديد الأذونات. امنح متصفح الذكاء الاصطناعي الحد الأدنى من الوصول الذي يحتاجه وراجع سياسة الخصوصية قبل السماح بالمعالجة خارج الجهاز.
• تحقق، ثم ثق. لا تتصرف بناءً على المخرجات الآلية دون فحص سريع، وتعامل مع المخرجات كمسودات تحتاج إلى مراجعة بشرية.
• إذا سمح المنتج بذلك، راجع واحذف سجل الاستعلامات المخزنة ومحتوى الصفحة المخبأة. فضل المنتجات التي تمكن المستخدمين من إلغاء الاشتراك في استخدام محتواهم لتدريب النموذج والتي تنشر سياسة واضحة للاحتفاظ بالبيانات.
• اطلب شفافية البائع إذا كنت تنشره لفريق. اطلب عمليات تدقيق أمنية مستقلة، ونموذج تهديد واضح، وضمانات مكتوبة حول البيانات التي يتم إرسالها خارج الجهاز. تجنب طرح متصفحات الذكاء الاصطناعي للموظفين حتى يتم وضع تلك الضوابط.