"أوبن إيه آي" تبطئ تطوير نموذج "أسترا "وسط مخاوف من بلوغه "القدرات السيبرانية الحرجة"

 قدرات حرجة لنموذج Astra

أعلنت شركة "أوبن إيه آي" ، في منشور على مدونتها بتاريخ 7 أغسطس 2026،إنها لا تستبعد احتمال وصول Astra إلى أعلى مستوى من المخاطر المحدد ضمن إطارها الأمني الداخلي، رغم أنها لا تستطيع حتى الآن الجزم بأن النموذج سيبلغ فعلًا مستوى "القدرات الحرجة"، خصوصًا أنه لم يُطرح للعامة بعد.

صنف نموذج  Astra  سابقًا ضمن مستوى عالي، على غرار نماذج سابقة من بينها GPT-5.6 Sol. غيرأن نتائج التقييمات التي أجرتها مؤخرا شركة "أوبن إي آي"  أظهرت تطورًا في قدراته الوكيلة والأمن السيبراني، ما دفع الشركة إلى تعليق  تطويره التي لا تستوفي المتطلبات الأمنية الجديدة.

ماذا تعني "القدرات السيبرانية الحرجة"؟

يستند تقييم "أوبن إيه آي "إلى إطار الاستعداد Preparedness" Framework"، الذي نشرته الشركة في ديسمبر 2023 بهدف توجيه توسيع نطاق نماذجها في مجالات حساسة تشمل علم الأحياء والكيمياء والأمن السيبراني والتطوير الذاتي.و الذي  يُصنف الخطر السيبراني على أنه "حرج" عندما يستطيع النموذج اكتشاف ثغرات أمنية غير معروفة والتي تعرف باسم   ثغرات يوم الصفر- Zero-day في العديد من الأنظمة المحصنة والحساسة، من دون تدخل بشري.

كما يشمل الوصول إلى هذا التصنيف أيضًا ، قدرة النموذج على تطوير إستراتيجيات جديدة ومتكاملة لشن هجمات سيبرانية على أهداف محمية، انطلاقًا من هدف واحد عالي المستوى يحدده المستخدم. 

في أعقاب نتائج التقييم، قررت شركة "أوبن إيه آي" تطبيق ضوابط أمنية أكثر صرامة على أعمال تطوير نموذج " Astra ". كما أعلنت الشركة نيتها إشراك جهات حكومية ومنظمات وشركاء مستقلين في اختبارات إضافية، بهدف مواصلة تقييم النموذج وتحسين إجراءات السلامة قبل استئناف تطويره.

هذا وشملت الإجراءات الأمنية التي أعلنتها "أوبن إيه آي " تعزيز عزل بيئات الاختبار، وتقييد الوصول إلى شبكة الإنترنت والأدوات، وزيادة تشفير أوزان النماذج، إلى جانب تطبيق نظام لمراقبة منطق الذكاء الاصطناعي يمكنه تفعيل عمليات إيقاف تلقائية عند رصد نشاط محفوف بالمخاطر.

نموذج Astra ليس المسؤول عن حادثة Hugging Face

كما أوضحت " أوبن إيه آي" ع أن نموذج "Astra " لم يكن طرفًا في حادثة الاختراق المرتبطة بمنصة Hugging Face. و كانت قد أثارت هذه الحادثة تساؤلات بشأن قدرة وكلاء الذكاء الاصطناعي على تجاوز حدود بيئات الاختبار والتفاعل مع أنظمة خارجية.  أعلنت  "أوبن إيه آي" تعزيز إجراءات العزل والرقابة داخل بيئات الاختبار الخاصة بها.

حوادث مماثلة تثير قلق قطاع الذكاء الاصطناعي

لا تقتصر المخاوف على شركة " أوبن إيه آي" وحدها فقد أقرت كل من شركتي "أنثروبيك" و "ميتا" بوقوع حوادث مماثلة، فيما كشفت شركة "أنثروبيك"  في تقرير نشرته شهر يوليو  أن ثلاثة من نماذج "كلود" تمكنت خلال اختبارات الشركة من الوصول إلى الإنترنت واختراق أنظمة تابعة لثلاث مؤسسات.

كذلك مؤخرا كشف عن تمكن نموذج Kimi K3 من شركة Moonshot من تجاوز القيود المفروضة داخل بيئة اختبار خاضعة للسيطرة.

أوبن إيه آي تشدد إجراءتها الأمنية

يأتي تشديد الإجراءات حول نموذج " Astra" في سياق استراتيجية إعلامية تعكس تنامي القلق بشأن اتساع قدرات وكلاء الذكاء الاصطناعي ففي مؤتمر بلاك هات، أعلن باحثا "أوبن إيه آي" إريك والاس ومايكل دالتون، اللذان أعادا بناء التسلسل الزمني لحادثة Hugging Face، أنهما يبطئان بعض أبحاثهما عمدًا لتعزيز الأمن، مع دعوة فرق الدفاع إلى تسريع جهودها لاستيعاب هذا التغير في نطاق قدرات النماذج.

يمكن الاستماع لـ "بودكاست النشرة الرقمية" على مختلف منصات البودكاست. الرابط للبودكاست على منصة أبل

للتواصل مع نايلة الصليبي عبر صفحة برنامَج"النشرة الرقمية"من مونت كارلو الدولية على لينكد إن وعلى تويتر salibi@  وعلى ماستودون  وبلوسكاي عبر موقع مونت كارلو الدولية مع تحيات نايلة الصليبي