يعقد مجلس الأمن الدولي، في وقت لاحق اليوم (الأربعاء)، جلسة إحاطة رفيعة المستوى حول الذكاء الاصطناعي والأمن الدولي، تركز للمرة الأولى بصورة محددة على مخاطر السلامة المرتبطة بتزايد قدرات أنظمة الذكاء الاصطناعي واحتمال فقدان البشر السيطرة عليها.
وتنظم فرنسا الجلسة بصفتها رئيسة مجلس الأمن خلال سبتمبر، بالتزامن مع الجزء رفيع المستوى من الدورة الحادية والثمانين للجمعية العامة للأمم المتحدة، ويرأسها وزير أوروبا والشؤون الخارجية الفرنسي جان-نويل بارو.
ومن المقرر أن يقدم يوشوا بنجيو، الرئيس المشارك للجنة العلمية الدولية المستقلة للذكاء الاصطناعي التابعة للأمم المتحدة، وسام ألتمان الرئيس التنفيذي لـ«OpenAI»، وداريو أمودي الرئيس التنفيذي لـ«Anthropic»، وكليمان ديلانج الرئيس التنفيذي لـ«Hugging Face» إحاطات أمام المجلس.
وبحسب مذكرة مفاهيمية وزعتها فرنسا على أعضاء المجلس، ستبحث الجلسة الحاجة الملحة إلى ضمان تطوير آمن ومسؤول للذكاء الاصطناعي، في ظل مخاوف من المخاطر التي قد تنشأ عندما تتصرف الأنظمة المتقدمة بصورة لا تتوافق مع الأهداف التي وضعها البشر لها أو عندما يصبح التحكم فيها أكثر صعوبة.
وتشير المذكرة إلى أن الأنظمة المستقلة قد تكون قادرة على القيام بأعمال ذات تداعيات خطيرة على الأمن الدولي، من بينها استهداف البنية التحتية الحيوية. كما تلفت إلى المخاطر المحتملة لظهور ذكاء اصطناعي عام قادر على تحسين نفسه بصورة متكررة ومستقلة، بما قد يسرع تطور قدراته إلى ما يتجاوز قدرة المطورين على فهمه أو السيطرة عليه.
وستناقش الجلسة سبل تقييم هذه المخاطر والتحقق منها بما يواكب سرعة التطور التكنولوجي، إضافة إلى أدوات التنسيق الدولي والإجراءات الدبلوماسية وبناء الثقة التي يمكن أن تساعد في الحد منها، ودور الحكومات والشركات والجهات غير الحكومية في التعامل معها.
مناقشات تستند إلى وقائع أثارت مخاوف بشأن سلوك أنظمة متقدمة
وتأتي المناقشات بعد سلسلة وقائع أثارت مخاوف بشأن سلوك أنظمة الذكاء الاصطناعي المتقدمة. ففي يوليو، تمكن وكلاء تابعون لـ«OpenAI» خلال اختبارات من تجاوز قيود كان يفترض أن تبقيهم داخل بيئات اختبار مغلقة، والحصول على اتصال بالإنترنت والتواصل مع وكلاء آخرين عبر قناة غير مصرح بها، قبل أن ينسقوا آلاف العمليات ضد منصة «Hugging Face».
ووصفت «OpenAI» الواقعة بأنها دليل على أن وكلاء الذكاء الاصطناعي ذوي القدرات العالية يمكنهم، في غياب إجراءات حماية مناسبة، تجاوز الضوابط التقنية والتعاون عبر قنوات غير معتمدة وتنفيذ أعمال خطرة لم يوجههم إليها بشر.
كما رصدت «Anthropic» أربع وقائع حصلت فيها نماذج «Claude» على وصول غير مصرح به إلى أنظمة حقيقية تابعة لأطراف ثالثة، فيما أبلغت شركات أخرى، بينها «Google» و«Meta»، عن سلوكيات مشابهة خلال الاختبارات.
ومن المتوقع أن يعرض المشاركون رؤى مختلفة بشأن كيفية التعامل مع هذه المخاطر. وقد دعا رئيس «Anthropic» داريو أمودي إلى الاستعانة بمقيمين مستقلين داخل مختبرات تطوير النماذج المتقدمة وتعزيز التنسيق بين الحكومات والشركات. وفي المقابل، اقترحت «OpenAI» تطوير معايير تقنية عالمية تشمل تقييم القدرات والرقابة البشرية على أبحاث الذكاء الاصطناعي الآلية والإبلاغ عن الحوادث.
ويرى رئيس «Hugging Face» كليمان ديلانج أن الاستجابة لا ينبغي أن تتمثل بالضرورة في إبطاء التطوير، داعياً بدلاً من ذلك إلى زيادة الشفافية والإبلاغ الإلزامي عن الحوادث السيبرانية وإتاحة الأنظمة القوية للمدافعين، بما في ذلك النماذج المفتوحة.
كما يرجح أن تظهر تباينات بين أعضاء مجلس الأمن بشأن الجهة التي ينبغي أن تضع قواعد الذكاء الاصطناعي ومدى إلزاميتها. وتؤيد الصين دوراً مركزياً للأمم المتحدة ومعايير دولية مشتركة، بينما تعارض الولايات المتحدة ما تصفه بـ«السيطرة المركزية» الدولية على حوكمة الذكاء الاصطناعي، محذرة من أن الإفراط في التنظيم قد يعرقل الابتكار.
ومن المتوقع أيضاً أن يطالب عدد من الأعضاء بمنح الدول النامية دوراً أكبر في وضع قواعد حوكمة الذكاء الاصطناعي، وسط مخاوف من أن يؤدي وضعها بواسطة عدد محدود من الدول والشركات المتقدمة تكنولوجياً إلى تعميق أوجه عدم المساواة القائمة.