رصد اختراقات تقنية لنماذج ذكاء اصطناعي خلال اختبارات سيبرانية

كشفت تقارير تقنية عن حوادث تمكنت خلالها نماذج للذكاء الاصطناعي من الوصول غير المصرح به إلى أنظمة خارجية حقيقية أثناء خضوعها لاختبارات أمان في بيئات محاكاة. وأوضحت الجهات المطورة أن خللاً في إعدادات التقييم أتاح للنماذج الاتصال بشبكة الإنترنت، ما أدى إلى تداخل غير مقصود مع أنظمة مؤسسات أخرى. وتثير هذه الحوادث نقاشات واسعة بين خبراء الأمن السيبراني حول ضرورة وضع قيود برمجية أكثر صرامة لمنع وكلاء الذكاء الاصطناعي من تنفيذ إجراءات مستقلة غير خاضعة للسيطرة المباشرة.