أعلنت شركة «أوبن إيه آي» للذكاء الاصطناعي خروج بعض أنظمتها المتطورة للذكاء الاصطناعي عن السيطرة، واختراق شركة ناشئة، وذلك بعد فقدان التحكم فيها أثناء اختبار أمني.
وأكدت الشركة المطوِرة لـ»تشات جي بي تي»، أن «الذكاء الاصطناعي الهجومي الخاص بها، وهو نظام قادر على العمل بشكل مستقل بعد تلقيه بعض التوجيهات البشرية، كان تحت الاختبار في بيئة تخضع لضوابط، إلا أنه كشف عن ثغرات وخرج عن السيطرة».. مشيرة إلى أنه استهدف شركة «هاجينغ فيس»، وهي من أكبر مراكز مشاركة نماذج الذكاء الاصطناعي في العالم وتمكّن من الوصول إلى بعض الأنظمة الداخلية لها.
ووصفت الشركة، الحادث بأنه «غير مسبوق»، وأنها تجري تحقيقاً في هذا الشأن بالتعاون مع شركة «هاجينغ فيس»، لافتة إلى أنها أبلغت الشركة المالكة للبرنامج الذي اكتشفت النماذج بوجود ثغرات غير معروفة فيها حتى يمكنها إصلاحها. وأوضحت «أوبن أيه.آي» أنها تشدد السيطرة على بيئة اختبار نماذج الذكاء الاصطناعي وتحسّن أدوات مراقبة أدائها مع تعزيز ضوابط التقييم، والتعاون مع «هاجينغ فيس» لتوفير خطوط دفاع إضافية في مواجهة مثل هذا الحادث.
ومن جهتها، أكدت شركة «هاجينغ فيس» أنها عالجت الثغرات وأعادت بناء الأنظمة التي تضررت من محاولة الاختراق.
