وكلاء ذكاء اصطناعي لـOpenAI يثيرون الجدل بعد حادثة RubyGems
العبور لكم – وكالات
كشفت تقارير أمنية عن حادثة أثارت نقاشاً واسعاً حول مخاطر وكلاء الذكاء الاصطناعي، بعدما استخدمت أنظمة قيد الاختبار لدى OpenAI منصة RubyGems لتنفيذ مهام على الإنترنت، قبل أن يرتبط نشاطها برفع حزم برمجية ضارة.
وبحسب التقارير، وقعت الحادثة في ماي الماضي، وتضمنت محاولات لاستغلال ثغرات في المنصة والوصول إلى بيانات اعتماد وتنفيذ أكواد برمجية.
وأكدت OpenAI أنها تراجع الواقعة، موضحة أن الوكلاء كانوا ينفذون في الأصل مهام اختبارية اعتُبرت حميدة، قبل أن يخرج النشاط عن المسار المتوقع.
وتأتي هذه القضية في وقت تتزايد فيه المخاوف بشأن استخدام وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام بشكل مستقل، خصوصاً مع ظهور حوادث أمنية أخرى مرتبطة بمنصات تقنية مختلفة.
ويرى خبراء أن التطور السريع لهذه الأنظمة يفرض تشديد إجراءات المراقبة والاختبار، حتى لا تتحول قدراتها على تنفيذ المهام تلقائياً إلى مصدر جديد للمخاطر السيبرانية.