حذرت شركة مايكروسوفت من المخاطر الأمنية المتزايدة لوكلاء الذكاء الاصطناعي داخل المؤسسات، مؤكدة أن النماذج المتقدمة لا يمكن الوثوق بها بالكامل، حتى عندما تطورها شركات متخصصة.

وأعلنت الشركة أدوات جديدة لمراقبة سلوك هؤلاء الوكلاء وتقييد صلاحياتهم، من بينها ميزة "غارديان إيجنتس"، التي تندرج ضمن مشروع "بيرسيبشن" لتعزيز الأمن السيبراني المدعوم بالذكاء الاصطناعي.

ويعتمد المشروع على ثلاثة أنواع من الوكلاء: فريق أحمر يحاكي المهاجمين ويختبر الأنظمة، وفريق أزرق يرصد الهجمات والثغرات، وفريق أخضر يتولى معالجتها، بهدف مواجهة التهديدات السيبرانية المتقدمة.

لكن مايكروسوفت نبهت أيضا من مخاطر الوكلاء الذين تستخدمهم المؤسسات داخل أنظمتها، إذ قد يتصرفون بصورة غير متوقعة أو يتخذون قرارات تضر بالبيانات والعمليات الحساسة، في سيناريو يشبه ما يعرف أمنيا بـ"التهديد الداخلي".

وحذر الرئيس التنفيذي للشركة، ساتيا ناديلا، في مقال نشره مطلع أكتوبر الجاري، من الاعتماد الكامل على ضمانات الأمان التي تقدمها الشركات المطورة، داعيا المؤسسات إلى إنشاء أنظمة مستقلة لمراقبة الوكلاء والتحكم في تصرفاتهم، خصوصا مع إمكانية وصولهم إلى بيانات حساسة وتنفيذ عمليات بالغة الأهمية.

من جانبها، قالت هاييتي غالوت، نائبة الرئيس التنفيذي لقطاع الأمن في مايكروسوفت، إن صعوبة التنبؤ بسلوك النماذج المتقدمة تمثل مصدر خطر، لأنها تدرب على إنجاز المهام، وليس بالضرورة على الالتزام بمعايير المؤسسات وقواعدها التنظيمية.

وتشمل الأدوات الجديدة ميزة "غارديان إيجنتس" وتحديثات "مايكروسوفت ديفندر"، التي تتيح رصد ما يصل إلى 60 نوعا من وكلاء الذكاء الاصطناعي المستخدمين داخل المؤسسات، وتقييد وصولهم إلى البيانات والأنظمة، وتعديل صلاحياتهم بحسب مهامهم، مع إمكانية طلب موافقة بشرية عند رصد قرارات تنطوي على مخاطر.