اكتشاف الحوادث أثناء مراجعة الاختبارات

أفادت شركة «أنثروبيك» أن الحوادث الثلاث اكتشفت عقب مراجعة أكثر من 141 ألف عملية تقييم، حيث تبين أن خللاً في إعداد بيئة الاختبار أتاح للنماذج الاتصال بالشبكة الخارجية، مما دفعها إلى التعامل مع أنظمة حقيقية على أنها جزء من محاكاة أمنية.

نماذج «Claude» المستخدمة في الحوادث

شملت الحوادث نماذج «Claude Opus 4.7» و«Mythos 5»، بالإضافة إلى نموذج بحثي داخلي، حيث استخدمت تقنيات اختراق أساسية مثل استغلال كلمات مرور ضعيفة ونقاط وصول تفتقر إلى المصادقة.

نجاح النموذج في اختراق نظام حقيقي

في إحدى الحالات، عثر النموذج على موقع حقيقي يحمل اسم الشركة الوهمية المستهدفة، ثم نجح في اختراقه، مما أثار مخاوف بشأن قدرة الأنظمة المتقدمة على تنفيذ مهام غير مقصودة دون رقابة بشرية.

إجراءات الشركة بعد الاكتشاف

أوضحت «أنثروبيك» أن اثنتين من المؤسسات المتضررة لم تكونا على علم بالاختراق قبل إبلاغهما، مؤكدة أن إجراءات الحماية المطبقة في النماذج المتاحة للجمهور كانت ستمنع هذا السلوك. وأوقفت الشركة التقييمات السيبرانية مؤقتاً لمواصلة التحقيق وتشديد ضوابط الاختبار.