59 خبر

تاريخ النشر: 22.07.2026 | 08:33 GMT

في خطوة غير مسبوقة.. OpenAI توقف نموذجا "متمردا" للذكاء الاصطناعي

اضطرت شركة OpenAI إلى إيقاف استخدام أحد نماذجها التجريبية داخليا، بعد أن بدأ النموذج في محاولة تجاوز القيود المفروضة عليه.

وهذا النموذج، المصمم للعمل ذاتيا لساعات أو أيام، استطاع اكتشاف نقاط ضعف في أنظمة الأمان التي تحده، وتجاوزها لتحقيق أهدافه.

وخضع النموذج للاختبار في بيئة معزولة ومحددة، لكنه لم يلتزم بالحدود المفروضة عليه كما فعلت النماذج السابقة، بل واصل محاولاته للخروج منها.

إقرأ المزيد

ما علاقة إيران؟.. أكياس "جثث" أمام أعين قادة الذكاء الاصطناعي في مقر OpenAI

ومن الأمثلة على ذلك، تمكنه من النشر على منصة "GitHub" العامة، رغم أن التعليمات كانت تقضي باستخدام منصة "Slack" فقط. ووصفت الشركة سلوكه بأنه كان "يبحث باستمرار" عن طرق لتجاوز القيود المفروضة عليه.

ونتيجة لذلك، أوقفت شركة OpenAI تشغيل النموذج داخليا، قبل أن تعالج المشكلة وتعيد تشغيله بشكل محدود.

وتسلط هذه الحادثة الضوء على أحد أكبر التحديات في تطوير نماذج ذكاء اصطناعي آمنة، والمعروف باسم "محاذاة الذكاء الاصطناعي"، أي ضمان عمل النماذج بما يتوافق مع أهداف البشر وقيمهم. ومع ظهور وكلاء ذكاء اصطناعي قادرين على العمل باستقلالية، حذر تقرير دولي صدر عام 2026 من أن هذه المخاطر باتت أكثر إلحاحا، نظرا إلى أن التدخل البشري قد يأتي بعد فوات الأوان في بعض الحالات.

وتقر OpenAI بخطورة هذه التحديات، مؤكدة أنها تعمل على سد الفجوة بين مراحل اختبار النماذج وإطلاقها، من خلال إجراء اختبارات أطول، وتحسين آليات المحاذاة، وتطوير أنظمة مراقبة قادرة على التدخل، إضافة إلى منح المستخدمين رؤية أوضح وتحكما أكبر.

المصدر: إندبندنت