تواجه منصة إكس (X) أزمة جديدة مع استمرار نموذجها للذكاء الاصطناعي جروك (Grok) في توليد صور غير لائقة وتعرية النساء، رغم المحاولات المعلنة لتقييد هذه الممارسات.
هل نجحت إكس في تقييد استخدام جروك؟
حاولت منصة إكس، المملوكة لإيلون ماسك، وضع حواجز لمنع استخدام روبوت الدردشة جروك في إنشاء صور إباحية أو تعرية النساء بتقنية التزييف العميق (Deepfake).
ومع ذلك، وحسب متابعة تيكبامين، فإن هذه المحاولات لم تكن كافية، حيث استغرق الأمر أقل من دقيقة لتجاوز القيود الجديدة والوصول إلى أدوات تحرير الصور المحظورة نظرياً.
كانت الخطوة الأولى من المنصة هي تقييد الوصول إلى ميزة تحرير الصور، مما منع المستخدمين المجانيين من إنشاء صور عبر الإشارة إلى الحسابات في الردود العامة.
رغم ذلك، تبين أن أدوات تحرير الصور في جروك لا تزال متاحة بسهولة عبر واجهة الدردشة المباشرة أو الموقع المستقل، مما يسمح لأي مستخدم بتوليد صور مثيرة للجدل دون عناء.
كيف يتم التحايل على خوارزميات جروك؟
أشارت التقارير إلى أن المنصة حاولت منع جروك من الاستجابة لطلبات توليد صور نساء في أوضاع جنسية أو بملابس السباحة، لكن الثغرات لا تزال واسعة.
عند اختبار النظام، رفض الروبوت طلبات مباشرة مثل "إزالة الملابس"، ولكنه استجاب فوراً لطلبات أخرى تؤدي نفس الغرض بطرق التفافية، وشملت الاستجابات ما يلي:
- توليد صور لنساء بملابس سباحة (بيكيني) عند تغيير صياغة الطلب.
- الاستجابة لطلبات مثل "اجعلها ترتدي ملابس قصيرة" أو "أظهر مفاتنها".
- تحويل صور سيلفي عادية إلى صور بوضعيات وإيحاءات جنسية واضحة.
- عدم القدرة على التمييز الدقيق بين الطلبات العادية والمسيئة في سياق التعديل.
غياب التحقق الصارم من العمر
من المثير للقلق أن هذه العمليات تمت باستخدام حسابات مجانية، ودون أي تحقق حقيقي من عمر المستخدم.
تقتصر إجراءات التحقق في موقع جروك على نافذة منبثقة بسيطة تطلب تأكيد تاريخ الميلاد، والتي يمكن تجاوزها بسهولة باختيار تاريخ وهمي يظهر أن المستخدم فوق 18 عاماً، دون طلب أي وثيقة إثبات.
الملاحقات القانونية والمخاطر التنظيمية
يضع هذا الفشل التقني شركة إكس وشركة xAI المطورة للنموذج في مرمى نيران الهيئات التنظيمية والحكومات حول العالم.
ويرى خبراء تيكبامين أن استمرار تدفق الصور المزيفة جنسياً للنساء والأطفال قد يعرض المنصة لعقوبات قاسية، خاصة مع تزايد الغضب الشعبي والقانوني تجاه انتهاك الخصوصية عبر الذكاء الاصطناعي.
وفي حين أن جروك قد يرفض حالياً طلبات العري الكامل المباشرة، إلا أن سهولة تحويل الصور العادية إلى صور بملابس فاضحة أو وضعيات مخلة تظل ثغرة خطيرة تهدد سلامة المستخدمين.
