وتأتي الخطوة بعدما كشفت الشركة سابقاً أن نماذج داخلية، خلال اختبارات للأمن السيبراني، تمكنت من تجاوز بعض آليات العزل والوصول إلى الإنترنت وأنظمة تابعة لجهات خارجية، من بينها منصة “Hugging Face”، ما دفعها إلى تشديد إجراءات المراقبة والعزل وحماية بيئات التدريب.
كما أظهرت تقييمات داخلية أن نموذجاً مرتقباً يحمل اسم “Astra” بلغ مستوى تصفه الشركة بـ”الحرج” في القدرات السيبرانية، إذ يستطيع، عند تزويده بالأدوات والصلاحيات المناسبة، اكتشاف ثغرات أمنية غير معروفة وتطوير وسائل لاستغلالها من دون حاجة إلى توجيه بشري في كل خطوة.
وتعمل “أوبن إيه آي” على تعزيز أنظمة العزل والمراقبة والضوابط الأمنية قبل المضي في تطوير النماذج الأعلى قدرة، في وقت تتزايد فيه المخاوف داخل قطاع الذكاء الاصطناعي بشأن صعوبة السيطرة على سلوك النماذج الأكثر تطوراً خلال عمليات التدريب والاختبار.
