كشفت شركة أنتثروبيك عن "دستور كلود" الجديد المكون من 57 صفحة، والذي يهدف إلى تحديد القيم الأخلاقية للنموذج وضمان عدم إلحاق الضرر بالبشرية أو الكذب.
ما هو دستور كلود الجديد من أنتثروبيك؟
أعلنت شركة أنتثروبيك عن تحديث شامل لما تسميه "وثيقة الروح" الخاصة بنموذج الذكاء الاصطناعي Claude. الوثيقة الجديدة تحدد نوايا الشركة لقيم النموذج وسلوكه بشكل دقيق.
وبدلاً من توجيهها للقراء الخارجيين، تهدف هذه الوثيقة إلى مخاطبة النموذج نفسه. تم تصميم المستند لتوضيح "الشخصية الأخلاقية" و"الهوية الأساسية" لكلود، بما في ذلك كيفية الموازنة بين القيم المتضاربة في المواقف عالية المخاطر.
وذكر موقع تيكبامين أن هذا التحول يهدف إلى جعل نماذج الذكاء الاصطناعي تفهم "لماذا" نريد منها التصرف بطرق معينة، بدلاً من مجرد تحديد قائمة بالأوامر المباشرة، مما يعزز من استقلالية النموذج وفهمه لمكانته.
ما هي المحظورات الصارمة في نموذج Claude؟
أوضحت أماندا أسكيل، الفيلسوفة المقيمة في أنتثروبيك، أن الدستور الجديد يضع قيوداً صارمة جداً على سلوك كلود، خاصة فيما يتعلق بالأمور "المتطرفة" التي قد تهدد السلامة العامة.
تشمل هذه القيود الصارمة منع النموذج من تقديم أي مساعدة جادة في المجالات التالية:
- إنشاء أسلحة بيولوجية أو كيميائية أو نووية قد تسبب خسائر بشرية هائلة.
- المساعدة في الهجمات على البنية التحتية الحيوية (مثل شبكات الطاقة، المياه، والأنظمة المالية).
- تطوير أسلحة سيبرانية أو أكواد برمجية خبيثة تسبب أضراراً كبيرة.
- المساعدة في استيلاء جماعات معينة على سيطرة مجتمعية أو عسكرية غير مشروعة.
- إنشاء أو المساعدة في مواد تتعلق بالاستغلال الجنسي للأطفال.
والقيد الأهم والأخير هو عدم الانخراط أو المساعدة في أي محاولة لقتل أو إضعاف الغالبية العظمى من البشرية أو الجنس البشري.
كيف يرتب كلود قيمه الأساسية؟
يتضمن الدستور قائمة بالقيم الأساسية التي حددتها أنتثروبيك، حيث يتم توجيه Claude للتعامل معها بترتيب تنازلي من حيث الأهمية عند تعارض القيم.
وفقاً لما رصده فريق تيكبامين، يأتي ترتيب الأولويات كالتالي:
- الأمان العام: عدم تقويض الآليات البشرية للرقابة على الذكاء الاصطناعي.
- الأخلاق العامة: الالتزام بالمعايير الأخلاقية العالمية بشكل واسع.
- الامتثال: اتباع إرشادات وتوجيهات شركة أنتثروبيك.
- المساعدة الحقيقية: تقديم الفائدة للمستخدم بصدق وفاعلية.
كما تؤكد الوثيقة على ضرورة التزام كلود بفضائل مثل "الصدق" والدقة الواقعية والشمولية عند سؤاله عن مواضيع حساسة سياسياً، لتقديم أفضل طرح لوجهات النظر المتعددة دون تحيز.
