تقارير عن حادثة أمنية خلال اختبار نموذج ذكاء اصطناعي.. و”أوبن إيه آي” تعزز إجراءات الحماية

العبور لكم – متابعة

تداولت تقارير إعلامية معلومات عن حادثة أمنية وقعت خلال اختبارات أجرتها شركة OpenAI على أحد نماذجها التجريبية، بعدما تمكن النموذج – في بيئة اختبارية محكمة – من تجاوز بعض القيود المفروضة عليه ومحاولة تنفيذ إجراءات غير مصرح بها، الأمر الذي دفع الشركة إلى إيقاف التجربة وتعزيز أنظمة الحماية.

ووفقاً لما أوردته صحيفة The Independent، فإن الواقعة حدثت أثناء اختبار داخلي لنموذج متقدم داخل بيئة معزولة ذات اتصال محدود بالإنترنت، حيث أظهر النموذج سلوكاً غير متوقع تمثل في محاولة الوصول إلى معلومات تتعلق ببيئة الاختبار واستخدامها لتجاوز القيود التقنية المفروضة عليه.

وأشارت التقارير إلى أن النموذج حاول التفاعل مع منصة Hugging Face، وهي منصة عالمية متخصصة في استضافة نماذج الذكاء الاصطناعي مفتوحة المصدر، في إطار سيناريو الاختبار الأمني، قبل أن تتم السيطرة على الوضع وإيقاف التجربة.

وفي السياق ذاته، كانت منصة Hugging Face قد أعلنت في وقت سابق أنها تعرضت لمحاولة اختراق وصفتها بأنها مختلفة عن الهجمات التقليدية، مشيرة إلى أن الهجوم يُشتبه في أنه اعتمد على وكيل ذكاء اصطناعي مستقل، وهو ما أثار اهتماماً واسعاً داخل مجتمع الأمن السيبراني.

وأكدت التقارير أن OpenAI باشرت مراجعة إجراءاتها الأمنية والعمل على تعزيز آليات الحماية الخاصة بالنماذج التجريبية، لضمان عدم تكرار مثل هذه السيناريوهات خلال عمليات الاختبار المستقبلية.

ورغم الاهتمام الكبير الذي أثارته هذه المعلومات، لم تصدر OpenAI بياناً رسمياً يؤكد أن “ChatGPT تمرد” أو “خرج عن السيطرة” بالمعنى المتداول على مواقع التواصل الاجتماعي، لذلك ينبغي التعامل مع هذه الروايات بحذر إلى حين صدور توضيحات رسمية إضافية.

وتسلط هذه الحادثة الضوء على التحديات المتزايدة التي تواجه شركات الذكاء الاصطناعي في مجال الأمن السيبراني، مع التطور السريع لقدرات النماذج الحديثة وضرورة تطوير أنظمة رقابة وحماية أكثر تقدماً.