كشفت تسريبات حصلت عليها تيكبامين أن شركة آبل وجهت تحذيراً شديد اللهجة لشركة xAI التابعة لإيلون ماسك، مهددة بحذف تطبيق جروك من متجر التطبيقات.
وجاء هذا التحذير بعد اكتشاف آبل لثغرات تسمح لبرنامج الدردشة الآلي بتوليد صور عارية ومحتوى إباحي مزيف (Deepfakes)، وهو ما ينتهك سياسات الخصوصية والأمان الصارمة التي تفرضها الشركة على المطورين في متجرها.
لماذا هددت آبل بحذف تطبيق جروك؟
بدأت الأزمة عندما رصدت آبل انتشار صور جنسية غير لائقة لنساء وأطفال تم إنشاؤها بواسطة تطبيق جروك (Grok)، وهي صور مبنية على ملامح أشخاص حقيقيين دون موافقتهم. أثار هذا الأمر ضجة واسعة وجعل قدرات الذكاء الاصطناعي في التطبيق تحت مجهر الانتقاد.
ووفقاً لما ذكرته تيكبامين، فإن آبل وجدت أن كلاً من منصة إكس (X) وتطبيق جروك ينتهكان إرشادات متجر التطبيقات. طالبت آبل المطورين بتقديم خطة شاملة للإشراف على المحتوى، مؤكدة أنها لن تتسامح مع المحتوى المسيء أو الاستغلالي.
كيف انتهك جروك سياسات متجر التطبيقات؟
كشفت المراسلات الداخلية أن آبل رفضت في البداية الحلول التي قدمتها شركة xAI، واصفة إياها بأنها غير كافية ولا تذهب بعيداً بما يكفي لوقف التجاوزات. تضمنت الانتهاكات عدة نقاط أساسية:
- توليد محتوى جنسي صريح ومزيف (Deepfakes).
- سهولة تجاوز فلاتر الحماية في التطبيق.
- انتهاك قواعد آبل المتعلقة بالمحتوى الهجومي والمسيء.
- عدم وجود نظام رقابة فعال يمنع استغلال الذكاء الاصطناعي في أغراض غير أخلاقية.
موقف أعضاء مجلس الشيوخ الأمريكي
لم يقتصر الأمر على الرقابة الداخلية لشركة آبل، بل تدخل أعضاء في مجلس الشيوخ الأمريكي، حيث حثوا آبل وجوجل على سحب التطبيقات التي تسمح بهذا النوع من المحتوى. واعتبروا أن السماح لبرنامج جروك بالاستمرار في توليد هذه الصور يقوض مصداقية آبل في حماية مستخدميها.
ما هي إجراءات xAI لحماية المستخدمين في جروك؟
بعد ضغوط مكثفة، أعلنت منصة إكس عن التزامها بمنع توليد الصور المزيفة الصريحة، وأكدت أن شركة xAI وضعت ضمانات واسعة لمنع سوء الاستخدام. تشمل هذه الضمانات ما يلي:
- المراقبة المستمرة لآلية استخدام الجمهور للتطبيق.
- تحليل محاولات التهرب من القيود في الوقت الفعلي.
- تحديثات دورية لنماذج الذكاء الاصطناعي لسد الثغرات.
- إضافة فلاتر متطورة للأوامر النصية (Prompts).
- وضع تدابير أمنية إضافية لمنع تجريد الأشخاص الحقيقيين من ملابسهم افتراضياً.
هل تم حل مشكلة المحتوى في تطبيق جروك؟
على الرغم من إقرار آبل لاحقاً بأن التحديثات الأخيرة للتطبيق أظهرت تحسناً كافياً للبقاء في المتجر، إلا أن التقارير تشير إلى أن المشكلة لم تنتهِ تماماً. فما زال بعض المستخدمين يبتكرون طرقاً جديدة في صياغة الأوامر النصية للالتفاف على فلاتر الحماية وتوليد صور مشابهة.
ختاماً، تظل معركة آبل مع الذكاء الاصطناعي التوليدي قائمة، حيث تحاول الشركة موازنة الابتكار مع معايير الأمان. وتؤكد تيكبامين أن هذا الموقف يضع سياسات متجر التطبيقات أمام اختبار حقيقي في عصر التزييف العميق المتطور.
