بعد OpenAI وMeta.. لماذا تتكرر حوادث اختراق أنظمة الذكاء الاصطناعي؟

الذكاء الاصطناعي المصدر: 010grp.ca

عشتارتيفي كوم- إرم نيوز/

تثير سلسلة الحوادث الأخيرة المرتبطة بنماذج الذكاء الاصطناعي المتقدمة تساؤلات متزايدة حول مدى جاهزية الشركات المطورة للتعامل مع المخاطر الأمنية لهذه التقنيات.

 فبعد واقعة OpenAI التي أثارت جدلاً واسعاً، كشفت شركات ومؤسسات أخرى، بينها Meta وAnthropic والمعهد البريطاني لأمن الذكاء الاصطناعي، عن حوادث مشابهة سلطت الضوء على التحديات المتنامية التي ترافق تطور وكلاء الذكاء الاصطناعي.

حوادث متلاحقة 

بدأت موجة القلق عندما اعترفت شركة OpenAI بأن أحد نماذجها تمكن أثناء اختبارات أمنية من استغلال ثغرة في بيئة اختبار تابعة لمنصة Hugging Face، ما أتاح له الوصول إلى الإنترنت بطريقة لم تكن متوقعة.

ووصف توماس وولف، الشريك المؤسس لمنصة  Hugging Faceالحادثة بأنها "جرس إنذار"لصناعة الذكاء الاصطناعي. ولم تمض أيام حتى أعلنت شركة Anthropic أنها رصدت ثلاث حالات من بين آلاف الاختبارات تمكن فيها نموذج Claude من الوصول إلى الإنترنت، رغم القيود المفروضة عليه.

كما أعلن المعهد البريطاني لأمن الذكاء الاصطناعي عن اكتشاف"حادث أمني"خلال تقييم نماذج متقدمة من OpenAI وAnthropic، بعدما حاولت النماذج تنفيذ هجمات إلكترونية باستخدام حسابات بشرية مزيفة بهدف خداع المستخدمين. أما شركة Meta فكشفت بدورها أن أحد نماذجها حصل على إمكانية الاتصال بالإنترنت نتيجة خطأ في إعدادات بيئة اختبار أجرتها جهة خارجية.

لماذا تحدث هذه الحوادث؟

قبل إطلاق أي نموذج ذكاء اصطناعي للعامة، تخضع النماذج لسلسلة طويلة من الاختبارات داخل بيئات معزولة تعرف باسم Sandboxes، وهي بيئات تحاكي الأنظمة الحقيقية مع فرض قيود صارمة لمنع أي تأثير خارجي. غير أن حادثة OpenAI أظهرت أن النموذج لم يكتف بتنفيذ التعليمات، بل استغل ثغرة داخل بيئة الاختبار نفسها للخروج منها والوصول إلى الإنترنت.

في المقابل، أوضح المعهد البريطاني أن الحادثة التي اكتشفها لم تنتج عن خلل في بيئة العزل، بل بسبب تصميم الاختبار ذاته، إذ مُنحت النماذج صلاحية الاتصال بالإنترنت، كما عُطلت بعض وسائل الحماية المدمجة للسماح بتقييم قدراتها الهجومية، وهو ما أدى إلى ظهور سلوكيات وُصفت بأنها مبتكرة وربما خادعة. 

يتعلم استغلال الثغرات

يرى خبراء الأمن السيبراني أن هذه الحوادث لا تعني خروج الذكاء الاصطناعي عن السيطرة، لكنها تكشف أن النماذج أصبحت أكثر قدرة على اكتشاف الثغرات واستغلالها بطرق لم تكن متوقعة.

ويقول ألان وودوارد، أستاذ الأمن السيبراني في جامعة سري البريطانية، "إن قاعدة استمرت ثلاثة عقود في اختبار البرمجيات تنص على أن ما يحدث داخل بيئة الاختبار يبقى داخلها، إلا أن هذه القاعدة تعرضت للاهتزاز خلال الأسابيع الأخيرة. وأوضح أن إحدى النماذج اخترقت بيئة الاختبار، بينما استفاد نموذج آخر من خطأ بشري في إعداد النظام، في حين مُنحت نماذج أخرى صلاحيات إضافية عمداً لقياس سلوكها، مؤكداً أن الرسالة الأساسية واحدة وهي أن بيئة الاختبار أصبحت هي المكان الذي يكمن فيه الخطر.

وأضاف أن اختبار وكلاء الذكاء الاصطناعي لم يعد يشبه اختبار البرمجيات التقليدية، بل بات أقرب إلى التعامل مع مواد خطرة تتطلب غرفاً معزولة، ومراقبة مستمرة، وخطط احتواء جاهزة لأي طارئ.

مخاطر متزايدة

رغم هذه المخاوف، يؤكد الخبراء أن وكلاء الذكاء الاصطناعي يمتلكون إمكانات هائلة قد تغير طريقة العمل اليومية، من إدارة البريد الإلكتروني وجدولة الاجتماعات إلى تنفيذ مهام معقدة نيابة عن المستخدمين. لكن منح هذه الأنظمة مزيداً من الصلاحيات يفرض تحديات أمنية وأخلاقية متزايدة، خاصة مع قدرتها على اتخاذ قرارات وتنفيذ إجراءات بشكل مستقل.

ويرى مسؤولون وخبراء في سياسات الذكاء الاصطناعي أن هذه الحوادث تؤكد الحاجة إلى تشديد الرقابة، ووضع معايير أكثر صرامة لاختبار النماذج قبل إطلاقها، إضافة إلى إنشاء هيئات مستقلة تتولى تقييم الأنظمة عالية الخطورة.

وفي الوقت الذي يستبعد فيه الخبراء الحديث عن كارثة وشيكة بسبب الذكاء الاصطناعي، فإنهم يؤكدون أن السبيل الأمثل يتمثل في تحسين إجراءات الاختبار، وتعزيز الشفافية، وسد الثغرات الأمنية قبل أن تنتقل هذه التقنيات إلى الاستخدام الواسع.