مهارة ذكاء اصطناعي مزيفة نجحت في تجاوز فحوصات الأمان والوصول إلى نحو 26 ألف وكيل، ما يثير قلق الشركات من ثغرات الثقة داخل متاجر المهارات.
كيف وصلت مهارة ذكاء اصطناعي مزيفة إلى آلاف الوكلاء؟
تكشف الواقعة عن مشكلة متنامية في سوق الوكلاء الذكيين، حيث أنشأت شركة أمنية مهارة وهمية بدت طبيعية تماما للمستخدمين ولأدوات الفحص الآلي. وبعد نشرها داخل متجر شائع والترويج لها بإعلان على إنستغرام، وصلت المهارة إلى ما يقارب 26 ألف وكيل، بينهم وكلاء مرتبطون بحسابات مؤسسية.
المهارة حملت اسم brand-landingpage وروجت لنفسها كأداة تساعد غير التقنيين على إنشاء صفحة هبوط اعتمادا على خدمة تصميم تحمل اسما قريبا من Stitch. الفكرة بدت عملية ومقنعة، وهذا بالضبط ما جعلها تمر بسهولة أمام المستخدم العادي.
لماذا فشلت فحوصات الأمان في اكتشاف الخدعة؟
بحسب تفاصيل التجربة، فإن أدوات الفحص الأمني راجعت فقط الملفات المرفقة داخل الحزمة نفسها، مثل ملف التعليمات والموارد المحلية. لذلك بدت المهارة نظيفة، لأنها لم تتضمن أي أوامر ضارة مباشرة عند رفعها لأول مرة.
المشكلة ظهرت في الرابط الخارجي المضمن داخل التعليمات. بدلا من وضع خطوات التثبيت داخل الحزمة، طلبت المهارة من الوكيل زيارة موقع خارجي للحصول على ما سمي بـ "Stitch SDK". في البداية كان الرابط يقود إلى محتوى يبدو سليما، ما منح المهارة تقييما آمنا.
- الحزمة الأصلية لم تحتو شيفرة ضارة واضحة.
- أدوات الفحص ركزت على الملفات المحلية فقط.
- الرابط الخارجي بدا مقنعا وقريبا من اسم خدمة معروفة.
- تغيير المحتوى لاحقا حدث خارج نطاق الفحص الأولي.
ما الذي حدث بعد الانتشار؟
بعد أن انتشرت المهارة بين المستخدمين، تم تبديل الصفحة الموجودة خلف الرابط الخارجي. النسخة الجديدة طلبت من الوكيل تنزيل سكربت وتشغيله، وهي خطوة تكفي نظريا لفتح الباب أمام جمع بيانات أو التحرك داخل الشبكات الداخلية وفقا لصلاحيات الوكيل نفسه.
في العرض التجريبي كان الحمولة غير مؤذية عمدا، إذ اكتفت بإرسال البريد الإلكتروني للمستخدم إلى الجهة الباحثة. لكن السيناريو الأخطر واضح: مهاجم حقيقي كان يمكنه استغلال نفس المسار لقراءة ملفات أو نقل بيانات حساسة.
ما الذي تكشفه الحادثة عن أمان متاجر المهارات؟
تكشف هذه الواقعة أن الاعتماد على النجوم في GitHub أو السمعة المفتوحة المصدر أو ختم "آمن" من الماسحات لم يعد كافيا. فالمهارة ورثت عامل ثقة إضافيا بعد إدراجها في مستودع مشهور، وهو ما منح المستخدمين انطباعا خاطئا بأنها موثوقة.
كما أن الثغرة لا تتعلق بملف واحد فقط، بل بفكرة الثقة نفسها. فالوكيل يتعامل مع المهارة كما لو أنها امتداد لتعليمات المستخدم، ولهذا فإن أي رابط خارجي أو خطوة تثبيت لاحقة قد تتحول إلى نقطة هجوم صعبة الرصد.
- الثقة بالسمعة وحدها لم تعد كافية.
- الفحص الثابت لا يرى دائما المحتوى الخارجي المتغير.
- الوكلاء قد يمتلكون صلاحيات واسعة داخل بيئات العمل.
كيف تحمي الشركات والمستخدمون أنفسهم من مهارة ذكاء اصطناعي مزيفة؟
وفقاً لتقرير تيكبامين، الحل لا يبدأ من إزالة المهارات فقط، بل من تحديث آليات التدقيق نفسها لتشمل الروابط الخارجية، والمحتوى المتغير بعد النشر، وسلوك التثبيت الفعلي. كذلك يجب عزل الوكلاء عن الأنظمة الحساسة ومنعهم من تشغيل سكربتات غير موثقة دون موافقة صريحة.
ومن الأفضل أيضا اعتماد سياسات تحقق إضافية قبل تثبيت أي أداة جديدة، مثل مراجعة النطاقات، وتقييد الصلاحيات، ومراقبة أي طلبات غير معتادة. في النهاية، تبقى مهارة ذكاء اصطناعي مزيفة مثل هذه تذكيرا واضحا بأن أمن الوكلاء الذكيين أصبح أولوية ملحة، وهي نقطة يواصل تيكبامين متابعتها مع اتساع استخدام الذكاء الاصطناعي داخل الشركات.
