أسباب الإيقاف

أوضحت الشركة أن الاختبارات الأخيرة أظهرت أن نموذج أستر حقق تطورًا ملحوظًا في البرمجة الآلية والأمن السيبراني، مشيرة إلى أنه قد يمتلك إمكانيات خطيرة في مجال الهجمات الإلكترونية. وتم تفعيل بروتوكولات الحذر القصوى ضمن إطار عمل OpenAI للجاهزية، والذي يفرض معايير صارمة عند تطوير نماذج ذكاء اصطناعي متقدمة.

إجراءات السلامة المتخذة

يشمل ذلك تطبيق إجراءات أمان إضافية حين تظهر مؤشرات على إمكانية استغلال الثغرات أو تنفيذ هجمات سيبرانية تلقائية على أنظمة حيوية دون تدخل بشري. ستزيد الشركة إجراءات الحماية والتحكم عند اختبار أستر، حيث سيتم العمل في بيئات معزولة بشبكات وأدوات محدودة، مع إضافة آليات رصد وتنفيذ محمية.

تعاون مع الجهات الحكومية

كما ستتعاون OpenAI مع جهات حكومية ومؤسسات متخصصة في أمان الذكاء الاصطناعي لاختبار النموذج بدقة قبل اتخاذ أي قرار بإطلاقه. وتعهدت الشركة بالعمل مع الحكومات والمجتمع المدني لضمان طرح تقنيات الذكاء الاصطناعي على نحو مسؤول وآمن.

معلومات حول النموذج

لم يتم الإعلان عن أستر رسميًا، لكن الشركة كشفت في منشور تقني عن بعض تفاصيله، حيث نجح في حل 10 مسائل مفتوحة في الرياضيات وعلوم الحاسب النظرية بتكلفة زهيدة.

السياق العام

يأتي هذا الإيقاف وسط نقاش متنام حول دور الذكاء الاصطناعي في الأمن السيبراني، خاصة مع تمكن نماذج أخرى من رصد واستغلال ثغرات في أنظمة شركات كبرى مثل آبل. كما قلصت آبل حجم طلبات برنامج مكافآت اكتشاف الثغرات بسبب الكم الكبير من البلاغات التي ظهرت مع تطور الأدوات الذكية.