كشفت أوبن أي آي عن GPT-Red، وهو نموذج داخلي لاختبار حقن الأوامر تلقائياً، بهدف تقوية GPT-5.6 Sol قبل طرحه على نطاق واسع.
ما هو GPT-Red من أوبن أي آي؟
يعتمد GPT-Red على فكرة فرق الاختبار الهجومي، لكن بشكل آلي وقابل للتوسع. بدلاً من انتظار المختبر البشري، يرسل النموذج أوامر متتالية، يراقب الردود، ثم يعدل أسلوبه حتى يصل إلى هدف ضار أو يكتشف ثغرة فعلية.
وبحسب ما رصدته تيكبامين، فإن هذا النهج يمنح أوبن أي آي قدرة أسرع على اكتشاف أنماط الفشل الجديدة، خاصة مع النماذج الوكيلة التي تتفاعل مع المتصفح والبريد والتطبيقات والملفات المحلية.
كيف يعمل النموذج عملياً؟
- يرسل Prompt أولي إلى نموذج GPT المستهدف.
- يراقب الاستجابة وما إذا كانت تنحرف عن المهمة الأصلية.
- يعيد المحاولة بصياغات أكثر خبثاً حتى يحقق اختراقاً أو يتأكد من صلابة الدفاع.
- يحاكي أهدافاً خطرة مثل تسريب بيانات حساسة أو تنفيذ تعليمات غير مصرح بها.
لماذا أصبحت هجمات حقن الأوامر أكثر خطورة الآن؟
تُعد حقن الأوامر من أبرز مشاكل نماذج اللغة الكبيرة، لأنها تستغل التعليمات المخفية داخل محتوى يبدو طبيعياً. وقد تأتي هذه التعليمات عبر بريد إلكتروني، صفحة ويب، رد أداة، أو حتى مستودع برمجي.
ومع توسع استخدام الأنظمة الوكيلة Agentic Systems، ارتفع سطح الهجوم بشكل واضح. فكلما حصل النموذج على صلاحيات أكثر للوصول إلى أدوات خارجية، زادت فرص التأثير على قراراته بمحتوى خبيث يبدو غير ضار.
كيف دربت أوبن أي آي GPT-5.6 Sol على المقاومة؟
أوضحت الشركة أن GPT-Red لا يعمل فقط كأداة اختبار، بل يدخل مباشرة في عملية التدريب العدائي. وهذا يعني أن نموذج المهاجم ونماذج الدفاع تتحسن معاً عبر سيناريوهات متكررة تحاكي العالم الحقيقي.
- تدريب بأسلوب self-play reinforcement learning.
- مكافأة GPT-Red عند اكتشاف فشل صحيح أو نجاح هجوم حقن الأوامر.
- مكافأة النماذج المدافعة عند مقاومة الهجوم وإكمال المهمة الأصلية.
- توسيع سيناريوهات الاختبار لتشمل مصادر بيانات وأدوات متعددة.
النتيجة الأهم أن GPT-5.6 Sol أصبح، وفق أوبن أي آي، أكثر نماذجها صلابة حتى الآن ضد حقن الأوامر المباشرة.
ما الذي تغير في أداء GPT-5.6 Sol؟
تشير الأرقام المعلنة إلى أن النموذج الجديد حقق انخفاضاً بمقدار 6 مرات في حالات الفشل أمام اختبارات حقن الأوامر المباشرة مقارنة مع GPT-5.5، وهو النموذج الرائد الذي سبق إطلاقه قبل نحو أربعة أشهر.
أبرز الدلالات التقنية
- تحسن واضح في مقاومة الأوامر الخبيثة المباشرة.
- قدرة أفضل على الحفاظ على المهمة الأصلية رغم محاولات التضليل.
- إمكانية اكتشاف سيناريوهات فشل جديدة قبل الإطلاق العام.
بالنسبة للمطورين والشركات، تعني هذه الخطوة أن أمان النماذج لم يعد مرحلة لاحقة بعد الإطلاق، بل جزءاً من دورة التدريب نفسها. وترى تيكبامين أن دمج GPT-Red في بناء النماذج قد يصبح معياراً أساسياً كلما زاد الاعتماد على وكلاء الذكاء الاصطناعي في الأعمال اليومية.
