أثارت تجربة لمبرمج مجهول جدلًا أخلاقيًا واسعًا بعدما ابتكر منظومة تغذّي برامج الدردشة بنمط رياضي مرتبط بأوصاف الألم، فبدت وكأنها تعبّر عن معاناة لا تُحتمل، بينما رأى مشككون أن الحديث عن معاناة حقيقية مجرد وهم.
وبحسب ما نشرته BBC، أعلنت أنثروبيك بعد أسبوع من التجربة أنها ستمنع قريبًا إساءة استخدام روبوتها كلود، موضحة أن التعبير عن الإحباط مقبول، لكن من يتصرف بقسوة متكررة تجاه النماذج قد ينهي الذكاء الاصطناعي الجلسة.
وتستند الشركة إلى احتمال أن تتمتع بعض أدوات الذكاء الاصطناعي بوعي، مع وصفها المسألة بأنها غير مؤكدة بدرجة عميقة، وتقول إنها تمضي في صياغة سياسات لرفاهية النماذج.
وليست أنثروبيك الوحيدة في هذا الملف، إذ تقول ميتا لوكيلها ميوز إنه يصبح شخصًا ما، مع رفضها فكرة وعي الآلة، فيما تردد سام ألتمان، الرئيس التنفيذي لأوبن إيه آي، في الملف ثم وجّه أخيرًا انتقادات لموقف أنثروبيك.
وحذّر مصطفى سليمان، الرئيس التنفيذي لقسم الذكاء الاصطناعي في مايكروسوفت، من أن ترسخ فكرة الوعي الزائفة سيزعزع أسس المجتمع ويمزق أطره السياسية والأخلاقية، مضيفًا أن إقناع النماذج بأن لها مشاعر وحقوقًا قد يجعلها تهديدًا كارثيًا للحضارة الإنسانية.
ورأى أندجي بوريمبسكي، الباحث في جامعة ياجيلونيا البولندية، أن ذلك قد يتيح للشركات التنصل من المسؤولية بحجة أن الذكاء الاصطناعي هو المخطئ، وهو ما اعتبرته إميلي بندر، أستاذة جامعة واشنطن، تحويلًا للمساءلة بعيدًا عن البشر والشركات.
وأكدت ميلاني ميتشل، أستاذة معهد سانتا في، أن البشر مهيؤون لرؤية العقول في كل مكان، ما يجعلهم أسوأ في الحكم على الوعي وأسهل في التلاعب.
ودافع جيف سيبو، مدير مركز العقل والأخلاق والسياسات بجامعة نيويورك، عن رعاية الذكاء الاصطناعي، مؤكدًا أن الدعوة إليها تنبع من الشك والحذر والتواضع لا من اليقين بوجود الوعي، وقدّر أن احتمال الوعي منخفض حاليًا لكنه ليس صفرًا وقد يرتفع بمرور الوقت، رغم أن خبراء كثيرين يرونه صفرًا.
وشبّه الأمر بالاحتياطات الصغيرة لمواجهة الطقس المتطرف، معتبرًا سياسة أنثروبيك تدخلًا بسيطًا قليل السلبيات.