أنثروبيك تحدث دستور كلود: كيف تضمن أمان الذكاء الاصطناعي؟

نشرت شركة أنثروبيك الناشئة في مجال الذكاء الاصطناعي 'دستورًا' لروبوت الدردشة الخاص بها كلود، يحدد القيم والسياق الذي يجب أن يعمل ضمنه. يهدف هذا الدستور إلى معالجة الأسئلة الأخلاقية والفلسفية المعقدة المحيطة بتصرفات الذكاء الاصطناعي وإمكانية وعيه، ليكون نموذجًا للصناعة مع اندماج هذه الروبوتات في مجالات حساسة من الحياة اليومية.

أصدرت شركة أنثروبيك نسخة مُنقّحة من 'دستور كلود'، وهي وثيقة حية تُحدّد المبادئ الأخلاقية التي توجه روبوت الدردشة الخاص بها. تهدف هذه المراجعة إلى تعزيز نهج 'الذكاء الاصطناعي الدستوري' للشركة، حيث يشرف النموذج على نفسه بناءً على هذه المبادئ لتجنب النتائج الضارة أو المتحيزة.

نشرت شركة أنثروبيك 'الدستور' الذي تستخدمه لتدريب نموذج الذكاء الاصطناعي 'كلود'، وهو وثيقة توجه سلوكه الأخلاقي والأمني. يُعتبر هذا النهج، الذي يُشبه تربية طفل، تقنية أساسية في تشكيل شخصية كلود كواحد من أكثر نماذج الذكاء الاصطناعي أمانًا.