حذرت شركة مايكروسوفت الشركات من الاعتماد على نماذج الذكاء الاصطناعي المتقدمة لمراقبة سلوكها ذاتيًا، مشيرة إلى أن منح الوكلاء الذكيين صلاحيات واسعة للوصول إلى قواعد البيانات والأنظمة الداخلية قد يشكل تهديدًا أمنيًا، حتى في غياب أي نية متعمدة للإضرار بالأنظمة، بحسب تقارير عالمية.
وتعمل الشركة على تعزيز منظومتها الأمنية لمواكبة التوسع في استخدام وكلاء الذكاء الاصطناعي القادرين على تنفيذ المهام بصورة مستقلة، من خلال تطوير أدوات رقابية تستهدف رصد السلوك غير المعتاد والتدخل المبكر لمنع وقوع أضرار محتملة.
وأوضح نائب رئيس مايكروسوفت، نديم عبدو، في تحديث رسمي للشركة، أن وكلاء الذكاء الاصطناعي لا يسعون عادةً إلى إلحاق الضرر بالأنظمة، لكن طبيعة عملهم غير المتوقعة قد تجعل الأخطاء أكثر خطورة عندما يمتلكون صلاحيات واسعة داخل بيئات العمل، بحسب تقرير نشره موقع Android Headlines.
وتتوافق هذه المخاوف مع تأكيدات الرئيس التنفيذي للشركة، ساتيا ناديلا، بشأن أهمية الفصل بين قدرات نماذج الذكاء الاصطناعي وأنظمة الأمن المسؤولة عن مراقبتها والتحكم في تصرفاتها.
وفي ظل قدرة وكلاء الذكاء الاصطناعي على تنفيذ آلاف العمليات خلال فترات زمنية قصيرة، تزداد صعوبة مراجعة كل إجراء بصورة فورية من جانب الموظفين ومسؤولي الأمن، ما يدفع إلى تطوير أدوات رقابية تعمل بصورة مستقلة.
وفي هذا الإطار، تعمل مايكروسوفت على توسيع أدواتها الأمنية ضمن مشروع «Project Perception»، من خلال تطوير منظومة «Guardian Agents»، المعروفة باسم «الوكلاء الحراس»، لمراقبة سلوك وكلاء الذكاء الاصطناعي عبر شبكات الشركات والمنصات السحابية والأجهزة المحلية.
وتهدف هذه الأدوات إلى اكتشاف الأنشطة غير المعتادة والتعامل معها قبل أن تتحول إلى تهديدات فعلية للبيانات أو الأنظمة الداخلية.
من جانبها، أشارت هاييتي غالوت، المسؤولة التنفيذية في قطاع الأمن لدى مايكروسوفت، إلى أن نماذج الذكاء الاصطناعي تركز بالأساس على تنفيذ المهام المطلوبة منها، وليس بالضرورة الالتزام بقواعد العمل أو مراعاة التقديرات والأحكام البشرية.
ولمعالجة هذه المخاطر، تتيح أدوات «Microsoft Defender» و«Entra Agent ID» اكتشاف عشرات أدوات الذكاء الاصطناعي المحلية، من بينها «Claude Code» و«OpenAI Codex» و«GitHub Copilot»، وفقًا لما أورده موقع «TechRadar».
وتدعم المنظومة تطبيق صلاحيات وصول ديناميكية تمنح وكيل الذكاء الاصطناعي إمكانية الوصول إلى الملفات والبيانات اللازمة لتنفيذ مهمة محددة فقط، على أن تُقلص هذه الصلاحيات فور الانتهاء منها.
ويستهدف هذا النهج تقليل نطاق الأضرار المحتملة في حال ارتكب الوكيل الذكي خطأً أو حاول الوصول إلى بيانات لا يحتاج إليها لإنجاز المهمة المكلف بها، بما يعزز حماية المعلومات والأنظمة الداخلية للشركات مع استمرار التوسع في استخدام تقنيات الذكاء الاصطناعي.