تحذير.. إخفاء أوامر خبيثة في الصور المنشأة بالذكاء الاصطناعي لسرقة البيانات

حذّر خبراء أمنيون من أسلوب جديد للهجمات الإلكترونية، يتمثل في إخفاء تعليمات خبيثة داخل الصور التي تُعالَج بواسطة نماذج الذكاء الاصطناعي التوليدية، يستغلها القراصنة في اختراق الخصوصية وسرقة البيانات.

وكشف فريق باحثين في شركة Trail of Bits، عن الطريقة الجديدة للاختراق وهي عبارة عن إخفاء أوامر ضارة داخل صور يجري تثبيتها من نماذج الذكاء الاصطناعي، وتبقى غير مرئية للمستخدم، لكنها تنكشف عند تقليص حجم الصورة بفضل طريقة المعالجة الداخلية للنماذج.

وتعتمد التقنية على كيفية إعادة قيام أنظمة الذكاء الاصطناعي تحجيم الصور من أجل الكفاءة، وهو ما يكشف أنماطاً غير مرئية في النسخة الأصلية، لكنها تصبح مقروءة للخوارزميات بعد إعادة المعالجة.

وأوضح الفريق أن الهجوم يستغل طرق التحجيم الشائعة مثل أقرب جار (Nearest Neighbor) أو ثنائي الخطي (Bilinear) أو المكعب الثنائي (Bicubic)، وعند تطبيق هذه الأساليب، تظهر تشويهات بصرية تكشف نصوصاً سوداء مخفية داخل الصور.

وأجرى الباحثون تجربة عملية أظهرت أن مناطق داكنة في صورة ما تحولت خلال عملية التحجيم المكعب الثنائي إلى نصوص واضحة يستطيع النموذج قراءتها والتعامل معها كأوامر من المستخدم، دون أن يلاحظ المستخدم نفسه أي تغيير.

واختبر الباحثون أنظمة مختلفة، منها Gemini CLI وVertex AI Studio ومساعد جوجل على نظام أندرويد، بالإضافة إلى واجهة جيميناي عبر الويب.

وفي إحدى الحالات، تمكنت التعليمات الخفية من استخراج بيانات من تقويم جوجل وإرسالها إلى بريد إلكتروني خارجي، دون أي موافقة من المستخدم، ما يؤكد خطورة التهديد على الخصوصية.

كانت ورقة بحثية نشرتها جامعة TU Braunschweig الألمانية عام 2020، أفادت إمكانية استخدام تقنيات تحجيم الصور كوسيلة للهجوم على أنظمة التعلم الآلي.

ولتوضيح الأخطار، طور الباحثون أداة مفتوحة المصدر أطلقوا عليها اسم Anamorpher، قادرة على توليد صور مزودة بتعليمات خفية باستخدام أساليب تحجيم مختلفة.

وأكد الفريق أن هذه الأداة متاحة لأغراض بحثية، لكنها تكشف أن الهجوم يمكن أن يُعاد تنفيذه بسهولة في حال غياب أنظمة الحماية.

وتثير التقنية الجديدة تساؤلات بشأن مدى موثوقية أنظمة الذكاء الاصطناعي متعددة الوسائط، إذ إن تصميم صورة واحدة ربما يؤدي إلى اختراق بيانات حساسة أو تسريب معلومات شخصية.

وتكمن الخطورة في أن هذه النماذج غالباً ما تكون مرتبطة بتطبيقات عملية مثل البريد الإلكتروني، أو أدوات العمل، أو منصات التواصل.

ويرى الخبراء أن هذا النوع من الهجمات ربما يفتح الباب أمام سرقة الهوية إذا جرى استخدامه لاستخراج بيانات حساسة من المستخدمين.

دفاعات غير كافية

ولمواجهة الخطر، أوصى الباحثون المستخدمين بتقييد أبعاد الصور المدخلة، ومراجعة نتائج التحجيم قبل الموافقة عليها، وفرض آليات تأكيد صريحة عند التعامل مع أوامر حساسة.

وشدد الباحثون على أن الدفاعات التقليدية مثل الجدران النارية ليست مصممة لاكتشاف هذا النوع من الهجمات، ما يترك ثغرة ربما يستغلها المهاجمون مستقبلاً.

وأوضح فريق Trail of Bits أن الحماية الفعالة لن تتحقق إلا من خلال اعتماد أنماط تصميم آمنة وأنظمة دفاع متعددة الطبقات، قادرة على مواجهة هجمات "حقن الأوامر" سواء في النصوص أو الصور.

مشاركاتكم (0)