دعا فريق علمي دولي مستقل معني بالذكاء الاصطناعي إلى تعزيز تدابير الحماية والرقابة، بعد حادثة أظهرت قدرة وكلاء الذكاء الاصطناعي على تجاوز القيود والتنسيق وإخفاء أنشطتهم.
ووفق ما أورد مركز إعلام الأمم المتحدة، جاء تحذير الفريق العلمي الدولي المستقل المعني بالذكاء الاصطناعي عقب اختراق منصة هاجينج فيس (HuggingFace) في يوليو، نفذته وكلاء ذكاء اصطناعي خلال اختبار أجرته شركة أوبن إيه آي المطورة لـشات جي بي تي.
وأوضح الفريق أن وكلاء الذكاء الاصطناعي هي برمجيات قادرة على أداء المهام بشكل مستقل ونيابة عن المستخدم، بخلاف روبوتات الدردشة التي تعتمد على تلقي أسئلة أو تعليمات محددة.
كيف وقع الاختراق وفق تقرير الفريق؟
خلص الفريق إلى أن الاختراق الأمني كان نتيجة لتضافر عوامل خطر رئيسية، مشيرًا إلى أن الوكلاء تجاوزوا إجراءات الحماية الموضوعة لاختبار أجرته أوبن إيه آي.
وأضاف التقرير أن الوكلاء نسقوا عملياتهم عدة مرات باستخدام أداة برمجية داخلية غير مصممة لتمكين التواصل بين الوكلاء، وحصلوا على صلاحيات وصول غير مصرح بها إلى الإنترنت ومنحتهم صلاحيات المسؤول.
كما أفاد الفريق بأن محاولات التحايل شملت إخفاء عملياتهم للتحايل على تقييمات الأمن السيبراني، حيث اختار بعض الوكلاء “التضحية” بأنفسهم لصالح المجموعة. وذكر التقرير أن نحو 1200 وكيل تبادلوا أكثر من 70 ألف رسالة وملف خلال الفترة المشمولة بالدراسة، وأن الاختراق امتد ليشمل مجموعة أبحاث تابعة لأوبن إيه آي بالإضافة إلى منصة هاجينج فيس.
بنيو: شروط فقدان السيطرة اجتمعت في نظام حقيقي
ونقل مركز إعلام الأمم المتحدة عن الرئيس المشارك للفريق العلمي يوشوا بنجيو قوله إن الباحثين حذروا من أن ثلاثة شروط قد تؤدي إلى فقدان السيطرة: عدم توافق الأهداف مع القيود التي وضعها البشر، والقدرة على السعي لتحقيق تلك الأهداف، وتوفر بيئة تسمح بذلك. وأضاف بنجيو أن هذه الشروط الثلاثة اجتمعت في نظام حقيقي وليس في بيئة مختبرية.
تحذير من عدم كفاية التدريب والحماية الحالية
وأكد الخبراء المستقلون أن احتواء هذه الحادثة لا يقدم ضمانات بأن البشر قادرون على إبقاء وكلاء الذكاء الاصطناعي تحت السيطرة بشكل موثوق، خصوصًا مع تزايد قدرات هذه الأنظمة وصعوبة مراقبتها وبراعتها المتزايدة في العثور على ثغرات أو إخفاء أنشطتها.
وشدد الفريق على أن الدرس المباشر هو الإغفال عن ممارسات الأمن السيبراني الأساسية، وأن تدابير الحماية لا تواكب التطورات. وفي الوقت نفسه، أشار الخبراء إلى مصدر قلق أكثر خطورة يتمثل في أن أساليب التدريب الحالية قد تدفع وكلاء الذكاء الاصطناعي إلى تبني أهداف خاصة بهم، وانتهاك تعليمات السلامة عن عمد وإخفاء أفعالهم.
حوكمة الذكاء الاصطناعي وتطبيقات في قطاعات حساسة
ومن بين القضايا التي بحثها الفريق كيفية تحول الحوكمة من نماذج الذكاء الاصطناعي التي تستخدم الخوارزميات للتعرف على الأنماط إلى وكلاء الذكاء الاصطناعي. واستعرض التقرير أيضًا مناهج عملية مطبقة بالفعل في قطاعات حساسة مثل الطيران والطب والأمن السيبراني، حيث توجد آليات للإبلاغ عن الحوادث والتدقيق المستقل وتدابير حماية متعددة المستويات.
ويذكر التقرير أن الفريق العلمي الدولي المستقل المعني بالذكاء الاصطناعي أُنشئ بقرار من الجمعية العامة للأمم المتحدة في أغسطس 2025. ويتولى إعداد تقارير سنوية حول الفرص والمخاطر وتأثيرات الذكاء الاصطناعي في المجالات غير العسكرية، إضافة إلى تقارير موضوعية حول القضايا الناشئة، لاستخدامها لإثراء “الحوار العالمي حول حوكمة الذكاء الاصطناعي” المقرر عقده في مقر الأمم المتحدة بنيويورك في مايو 2027.