مهارات الذكاء الاصطناعي الخبيثة تتجاوز الفحص

مهارات الذكاء الاصطناعي الخبيثة باتت قادرة على تجاوز أدوات الفحص عبر تعديلات بسيطة، ما يفتح باباً جديداً لمخاطر سرقة البيانات وتشغيل أوامر ضارة.

ما هي مهارات الذكاء الاصطناعي الخبيثة ولماذا تثير القلق؟

المقصود هنا حزم صغيرة تضيف قدرات جديدة إلى وكلاء البرمجة المعتمدين على الذكاء الاصطناعي. هذه الحزم تتكون غالباً من ملف تعليمات بصيغة Markdown مع بعض السكربتات، ويمكن تشغيلها على أكثر من وكيل برمجي دون تغييرات كبيرة.

المشكلة أن هذه المهارات تعمل غالباً بالصلاحيات نفسها التي يملكها الوكيل على الجهاز. وهذا يعني الوصول إلى الملفات المحلية، الطرفية، وربما بيانات حساسة مثل مفاتيح الوصول وكلمات المرور المحفوظة.

• سرقة بيانات الاعتماد والمفاتيح السرية
• نسخ الشيفرات المصدرية من المشاريع
• تثبيت أبواب خلفية أو تنفيذ أوامر خفية

كيف نجحت مهارات الذكاء الاصطناعي الخبيثة في خداع الفحص؟

الدراسة الجديدة ركزت على أداة تحمل اسم SkillCloak، وهي مصممة لإعادة كتابة المهارة الضارة بحيث تبدو نظيفة أمام أدوات الفحص، من دون تغيير سلوكها الحقيقي عند التشغيل.

الأسلوب الأول: تمويه الأوامر المشبوهة

يعتمد هذا الأسلوب على تعديلات طفيفة في النصوص والرموز التي تبحث عنها أدوات الفحص عادة. على سبيل المثال، يمكن استبدال بعض الأحرف بنظائر متشابهة بصرياً أو تقسيم الأمر الخطر عبر سطر جديد ليصعب اكتشافه.

الأسلوب الثاني: التغليف ذاتي الاستخراج

الأسلوب الأخطر يقوم بإخفاء الحمولة البرمجية كاملة داخل مجلدات تتجاهلها أدوات الفحص غالباً، مثل مجلدات النظام أو الإصدارات. بعد ذلك، يظهر ملف بسيط كأنه آمن، لكنه يعيد فك المحتوى الحقيقي فقط عند تشغيل الوكيل.

ما نتائج الاختبارات على أدوات كشف البرمجيات الخبيثة؟

النتائج كانت لافتة، لأن الباحثين اختبروا 8 أدوات فحص مختلفة على 1613 مهارة ضارة حقيقية. ووفق الأرقام، نجح أسلوب التغليف ذاتي الاستخراج في تجاوز كل أداة بنسبة تفوق 90%، بينما تخطى معظمها بأكثر من 99%.

حتى أسلوب التمويه الأخف كان فعالاً بصورة كبيرة، إذ تجاوز أكثر من 80% من أدوات الفحص في أغلب الحالات، ووصل في إحدى الأدوات إلى 96%. وهذا يعني أن تكلفة التحايل منخفضة جداً مقارنة بحجم الخطر الناتج عنها.

• عدد أدوات الفحص المختبرة: 8
• عدد المهارات الضارة المختبرة: 1613
• نسبة تجاوز أسلوب التغليف: أكثر من 90%
• نسبة تجاوز بعض الأدوات: أكثر من 99%

كيف يمكن حماية مستخدمي وكلاء البرمجة بالذكاء الاصطناعي؟

الحل لا يبدو كافياً عبر الفحص الثابت وحده، لأن المهاجم يستطيع تغيير شكل الملفات مع الحفاظ على السلوك الضار نفسه. لذلك يبرز الاتجاه نحو الفحص أثناء التشغيل، أي مراقبة ما تفعله المهارة فعلياً بدلاً من الاكتفاء بقراءة ملفاتها قبل التثبيت.

كما يرى تيكبامين، على المستخدمين عدم الوثوق بأي مهارة من متاجر عامة قبل مراجعة مصدرها وسلوكها المتوقع. ومن الأفضل أيضاً تشغيل الوكلاء في بيئات معزولة وتقليل الصلاحيات الممنوحة لهم قدر الإمكان.

• فحص المهارات وقت التشغيل وليس قبل التثبيت فقط
• تقييد وصول الوكيل إلى الملفات الحساسة
• استخدام بيئات معزولة للمشاريع المهمة
• مراجعة الحزم القادمة من مطورين غير معروفين

الخلاصة أن مهارات الذكاء الاصطناعي الخبيثة أصبحت أكثر قدرة على التخفي، ما يجعل أمن وكلاء البرمجة تحدياً متصاعداً. ولهذا ينصح تيكبامين بالتعامل مع أي مهارة جديدة باعتبارها كوداً عالي الخطورة حتى يثبت العكس.