تمثل هلوسة الذكاء الاصطناعي تهديداً متزايداً للأمن الرقمي، حيث تولد النماذج إجابات خاطئة بثقة عالية، مما يضلل الخبراء ويفتح ثغرات أمنية خطيرة.
أصبحت تقنيات الذكاء الاصطناعي جزءاً لا يتجزأ من أنظمة الدفاع الرقمي الحديثة، لكن الاعتماد المفرط عليها قد يؤدي إلى عواقب وخيمة. ووفقاً لتقرير تيكبامين، فإن الهلوسة التقنية تضعف قدرة المؤسسات على اتخاذ قرارات أمنية صحيحة من خلال استغلال الثقة البشرية في المخرجات التقنية.
ما هي هلوسة الذكاء الاصطناعي وكيف تحدث؟
تُعرف هلوسة الذكاء الاصطناعي بأنها مخرجات تبدو منطقية ومقنعة ولكنها تفتقر إلى الحقيقة الواقعية. لا تمتلك نماذج اللغة الكبيرة آلية للتحقق من المعلومات بشكل فعلي، بل تعتمد على التنبؤ بالكلمات والعبارات بناءً على الأنماط التي تعلمتها.
- التنبؤ الإحصائي: تقوم النماذج ببناء استجابات إحصائية بدلاً من استرجاع حقائق موثقة.
- غياب اليقين: تفتقر النماذج إلى القدرة على الاعتراف بالجهل، فتقوم باختلاق إجابات لتبدو مفيدة.
- المصادر الوهمية: قد يقتبس الذكاء الاصطناعي أبحاثاً لم تُجرَ أبداً أو بيانات مخبرية وهمية تماماً.
لماذا تعتبر هذه الظاهرة خطيرة؟
الخطر الحقيقي يكمن في الثقة المطلقة التي تظهر بها هذه الإجابات. عندما يقتبس النظام مصادر غير موجودة أو بيانات تقنية وهمية، قد يندفع الموظفون لاتخاذ إجراءات بناءً على هذه المعلومات دون التحقق منها، وهو ما يفتح الباب أمام اختراقات واسعة النطاق.
دراسة: 40 نموذجاً من الذكاء الاصطناعي تفشل في الاختبار
كشف تقييم AA-Omniscience لعام 2025، والذي شمل 40 نموذجاً من أبرز نماذج الذكاء الاصطناعي، عن نتائج مقلقة. وجد التقرير أن الغالبية العظمى من النماذج تميل لتقديم إجابات خاطئة بثقة مفرطة بدلاً من تقديم إجابات صحيحة في المسائل المعقدة.
- أربعة نماذج فقط من أصل 40 نجحت في تجنب الإجابات الخاطئة الواثقة بشكل ملحوظ.
- تزداد احتمالية الهلوسة عند سؤال النظام عن تفاصيل تقنية دقيقة في الأمن السيبراني.
- تعتبر النماذج أن تقديم أي إجابة أفضل من قول "لا أعرف"، وهو خلل بنيوي خطير.
3 طرق تؤثر بها هلوسة الذكاء الاصطناعي على الأمن السيبراني
لا تنتهي مخاطر الهلوسة عند مجرد تقديم معلومة خاطئة، بل تمتد لتشمل عمليات تشغيلية كاملة داخل المؤسسات، كما يوضح تيكبامين في المحاور التالية:
1. التهديدات الضائعة (Missed Threats)
تعتمد أنظمة الكشف عن التهديدات على تحديد الأنماط بناءً على البيانات التاريخية. إذا فشل الذكاء الاصطناعي في تمييز هجوم جديد أو قام بهلوسة تعتبر النشاط التخريبي سلوكاً عادياً، فإن الهجوم يمر عبر الدفاعات دون أي اعتراض.
2. التهديدات الوهمية والضجيج الرقمي
على العكس تماماً، قد يقوم الذكاء الاصطناعي باختلاق تهديدات لا وجود لها، مما يؤدي إلى استهلاك موارد الفريق الأمني في تتبع تنبيهات كاذبة، وهو ما يشتت الانتباه عن المخاطر الحقيقية التي قد تحدث في نفس الوقت.
3. الحلول التقنية الخاطئة
عندما يُطلب من الذكاء الاصطناعي تقديم كود برمجي لسد ثغرة أمنية، قد يقترح حلاً يبدو مثالياً لكنه يحتوي على ثغرة برمجية جديدة أو أوامر قد تؤدي إلى توقف الأنظمة بالكامل عن العمل نتيجة عدم دقة التنبؤ.
في الختام، يظل العنصر البشري هو خط الدفاع الأول. يجب على المؤسسات التعامل مع كل مخرج صادر عن أنظمة الذكاء الاصطناعي كأنها ثغرة محتملة حتى يتم التحقق منها يدوياً، لضمان أعلى مستويات الأمن الرقمي وحماية البيانات الحساسة من المخاطر غير المتوقعة.
