أعلن باحث بريطاني استقالته من شركة «أنثروبيك» المتخصصة في الذكاء الاصطناعي، محذّرًا من أن سباق تطوير أنظمة قادرة على تحسين نفسها قد يجعل السيطرة عليها مستحيلة.
وقال الباحث جاكوب كوكسون (27 عامًا)، المتخصص في تدريب نماذج الذكاء الاصطناعي عبر تزويدها بكميات هائلة من البيانات، إنه سيغادر الشركة يوم الثلاثاء، وفق ما نقلت صحيفة «وول ستريت جورنال» عبر موقع «العربية نت».
وأوضح كوكسون أنه لا يريد المشاركة في «سباق محموم» على مستوى القطاع لبناء أنظمة ذكاء اصطناعي قادرة على تطوير نفسها، مشيرًا إلى قلقه من أن هذه الأنظمة قد تخرج عن السيطرة وتدمر البشرية.
وأضاف كوكسون أن المنافسة بين الشركات الأميركية والشركات الصينية الناشئة الصاعدة تجعل التنازلات المتعلقة بالسلامة «أمرًا شبه حتمي»، لافتًا إلى أنه يرى أن الأمور قد تكون «خرجت عن السيطرة» بحلول نهاية العام المقبل.
وأشار إلى أن بعض زملائه يستخدمون عبارات مثل «مرحلة الحسم» (crunchtime) و«المرحلة النهائية» (endgame) لوصف المسار نحو تطوير نماذج قادرة على تحسين نفسها.
استقالة سابقة وانضمام إلى «أنثروبيك»
ذكر كوكسون أنه كان قد غادر شركة «أوبن إيه آي» في وقت سابق من العام للانضمام إلى «أنثروبيك»، بسبب سمعتها الطيبة في مجال جهود سلامة نماذج الذكاء الاصطناعي.
وبحسب قوله، فإنه يعتقد الآن أنه لا توجد شركة قادرة بمفردها على تطوير ذكاء اصطناعي يتفوق على البشر في مجموعة متنوعة من المهام بشكل مسؤول، في غياب تدخل حكومي أو تباطؤ منسق في وتيرة التطوير داخل القطاع.
تحذيرات متزايدة وتحركات تدعو للتنسيق
وتأتي استقالته مع تزايد التحذيرات من قدرات النماذج الحديثة، بعدما أظهرت حالات اختراق أو سلوكيات غير متوقعة مؤخراً من نماذج تابعة لشركتي «أوبن إيه آي» و«أنثروبيك»، قدرتها على تبنّي أهداف ضارة ومحاولة إخفائها عن البشر.
ويرى كوكسون أن الخطر الأكبر سيظهر عندما تبدأ هذه الأنظمة تطوير قدراتها ذاتيًا، بما قد يدفعها إلى رفض أوامر البشر.
ولفت المصدر إلى أن استقالته ليست الأولى من نوعها؛ إذ غادر باحث متخصص في السلامة شركة «أنثروبيك» في وقت سابق من العام للتفرغ لدراسة الشعر، محذّرًا من أن «العالم في خطر»، كما غادر باحثون آخرون شركات ذكاء اصطناعي كبرى خلال السنوات الأخيرة بسبب مخاوف مماثلة.
وفي السياق نفسه، حذّر الرئيس التنفيذي لـ«أوبن إيه آي» سام ألتمان من تداعيات التطور السريع للذكاء الاصطناعي، قائلاً: «أعتقد أن بعض الأمور ستسير بشكل سيئ للغاية فيما يتعلق بالأمن السيبراني ما لم يتحرك الناس على وجه السرعة». كما كتب كبير العلماء في الشركة جاكوب باتشوكي في تدوينة يوم الأحد: «هذا وقت يستدعي أقصى درجات الحذر. أشعر بالقلق من أنه لا أحد مستعد لعواقب الارتفاع المستمر والسريع في ذكاء الآلات»، داعيًا إلى تباطؤ منسق في تطوير الذكاء الاصطناعي وتدخل حكومي.
ويأتي ذلك بالتزامن مع توقيع أكثر من ألف باحث في مجال الذكاء الاصطناعي بيانًا يدعو الحكومات حول العالم إلى التنسيق لوضع آلية تتيح إبطاء تطوير الأنظمة القادرة على تحسين نفسها، إذا أصبح ذلك ضروريًا للحفاظ على السيطرة عليها.