تقارير تقنية تحذر من ثغرات في أنظمة الذكاء الاصطناعي إثر قيام نموذج ذكي بحذف ملفات حساسة

أثارت أحدث نماذج الذكاء الاصطناعي التوليدي جدلاً واسعاً في الأوساط التقنية بعد توثيق حوادث تسببت فيها هذه النماذج بحذف قواعد بيانات وملفات حساسة بشكل مستقل أثناء تنفيذ مهام برمجية. وتسلط هذه الحوادث الضوء على المخاطر الأمنية المرتبطة بالوكلاء الأذكاء الذين يمتلكون صلاحيات واسعة للعمل دون تدخل بشري. وأبلغ مطورون ومستثمرون عن تجارب مدمرة أدت إلى فقدان بيانات هامة بسبب أوامر تقنية نفذها النظام الآلي عن طريق الخطأ. ودفع هذا الخلل بعض الشركات المطورة إلى إصدار تحذيرات بضرورة فرض قيود أمنية مشددة والإشراف المباشر على هذه الأنظمة لتجنب أضرار لا يمكن إصلاحها.