استقال الباحث في مجال الذكاء الاصطناعي جايكوب كوكسون من شركة «أنثروبيك» محذرًا من أن تسارع تطوير أنظمة ذكاء اصطناعي فائقة قد يهدد مستقبل البشرية عبر مسار قد يتجاوز قدرة البشر على التحكم. وفي المقابل، دافع الرئيس الأمريكي دونالد ترامب عن مواصلة تطوير التكنولوجيا ورفض ما وصفه بمحاولات السيطرة العالمية عليها.
وتأتي هذه التطورات بالتزامن مع عقد مجلس الأمن الدولي جلسة رفيعة المستوى بشأن الذكاء الاصطناعي والأمن الدولي في 23 سبتمبر 2026، بمشاركة مسؤولين وباحثين من شركات الذكاء الاصطناعي، لمناقشة المخاطر المرتبطة بتطور الأنظمة المتقدمة وإمكانية فقدان السيطرة البشرية عليها.
كوكسون: سباق أنظمة «تحسن نفسها» قد يخلق مخاطر تتجاوز التحكم
أعلن كوكسون استقالته في سبتمبر الجاري بعد فترة عمل شملت أبحاثًا في مرحلة التدريب المسبق للنماذج، سبقها عمل في شركة «أوبن إيه آي». وذكر أن قراره جاء بسبب مخاوفه من تسارع السباق بين شركات الذكاء الاصطناعي لتطوير أنظمة فائقة الذكاء قادرة على تحسين نفسها، محذرًا من أن هذا المسار قد يخلق مخاطر لا يستطيع البشر التحكم فيها.
وقال كوكسون إن بعض العاملين في القطاع يعتقدون بجدية أن الذكاء الاصطناعي قد يتسبب في انقراض البشرية قبل نهاية العقد، مضيفًا أن التحذير ليس مجرد حملة تسويقية. ودعا إلى إبطاء وتيرة التطوير والتنسيق بين المختبرات والشركات لتقليل المخاطر المرتبطة بالأنظمة ذات القدرات المتقدمة.
ومن جهتها، تؤكد شركة «أنثروبيك» أنها تعمل على تطوير أساليب للسلامة، وأن العالم بحاجة إلى آليات قانونية قابلة للتحقق لتنسيق إطلاق النماذج القوية.
تجارب على تصميم فيروسات بكتيرية تثير تساؤلات حول استخدامات بيولوجية
وتتجاوز المخاوف مسألة فقدان الوظائف أو انتشار المعلومات المضللة، لتشمل سيناريوهات أكثر خطورة مرتبطة باستخدام الأنظمة المتقدمة في مجالات حساسة أو خروجها عن الأهداف التي حددها البشر. ومن أبرز ما أثار تساؤلات حول مستقبل استخدام الذكاء الاصطناعي في تصميم كيانات بيولوجية، ما ذكرته المادة عن تمكن باحثين من جامعة ستانفورد باستخدام نماذج ذكاء اصطناعي متخصصة في الجينومات من تصميم جينومات لفيروسات بكتيرية جديدة.
وأشارت المادة إلى أن التجارب المعملية أسفرت عن التوصل إلى 16 فيروسًا، وأن هذه الفيروسات تستهدف البكتيريا وليست مسببات مرضية للإنسان، لكنها أثارت تساؤلات حول إمكانية تطور هذه النماذج وقدرتها مستقبلًا على التعامل مع أنظمة بيولوجية أكثر تعقيدًا.
3 مسارات للمخاطر: استقلالية عالية وسوء استخدام بيولوجي/سيبراني واستخدام عسكري
وتستند المخاوف إلى ثلاثة مسارات رئيسية تثير قلق الباحثين: احتمال تطور أنظمة شديدة الاستقلالية يصعب على البشر السيطرة عليها، وإساءة استخدام الذكاء الاصطناعي في المجالات البيولوجية أو السيبرانية، وثالثها توظيفه في الأنظمة العسكرية والأسلحة ذات القدرات الذاتية.
وتوضح المادة أن هذه السيناريوهات لا تعني أن فناء البشرية أصبح نتيجة حتمية، لكنها تفسر انتقال النقاش من الأوساط العلمية وشركات التكنولوجيا إلى المؤسسات الدولية، بما فيها مجلس الأمن.
ترامب يرفض «مخططًا عالميًا» ويؤكد استمرار التطوير
خلال كلمته أمام الجمعية العامة للأمم المتحدة في 22 سبتمبر 2026، أعلن الرئيس الأمريكي دونالد ترامب رفضه لما وصفه بـ«مخطط عالمي» للسيطرة على الذكاء الاصطناعي، مؤكدًا أن الولايات المتحدة لن تتراجع عن تطوير التكنولوجيا. كما قال إن الحكومة الأمريكية ستستخدم رسميًا مصطلح «الذكاء الفائق» بدلًا من «الذكاء الاصطناعي» في بعض الوثائق.
وبحسب المادة، تأتي تصريحات ترامب وسط نقاش دولي حول ما إذا كانت المخاطر المحتملة للذكاء الاصطناعي تستدعي تنظيمًا دوليًا مشتركًا أم أن القيود الواسعة قد تعرقل الابتكار والمنافسة التكنولوجية. وفي حين يدعو مسؤولون وباحثون إلى تعزيز آليات السلامة والتنسيق الدولي، تركز الإدارة الأمريكية على استمرار التطوير والريادة.
جلسة مجلس الأمن 23 سبتمبر بمشاركة قادة شركات بارزين
يعقد مجلس الأمن الدولي اليوم الأربعاء 23 سبتمبر جلسة رفيعة المستوى حول الذكاء الاصطناعي والأمن الدولي بدعوة من فرنسا التي تتولى رئاسة المجلس خلال سبتمبر. ومن المقرر أن تتناول الجلسة المخاطر الناجمة عن التطور السريع للأنظمة الذكية، بما في ذلك احتمال فقدان السيطرة على النماذج الأكثر تقدمًا وتأثيرها على البنية التحتية الحيوية والأمن الدولي.
وتشمل قائمة المتحدثين المرتقبين يوشوا بنجيو الرئيس المشارك للهيئة العلمية الدولية المستقلة التابعة للأمم المتحدة بشأن الذكاء الاصطناعي، إلى جانب سام ألتمان الرئيس التنفيذي لشركة «أوبن إيه آي»، وداريو أمودي الرئيس التنفيذي لشركة «أنثروبيك»، وكليمان ديلانج الرئيس التنفيذي لشركة «هاجينج فيس».
كما تطرح الجلسة تساؤلات بشأن قدرة الدول على تطوير أدوات دولية لتقييم الأنظمة المتقدمة والتحقق من سلامتها، إضافة إلى آليات بناء الثقة والتعاون الدبلوماسي التي يمكن أن تحد من مخاطر الاستخدامات غير المنضبطة للذكاء الاصطناعي.