نموذج الذكاء الاصطناعي الذي أصبح خطيرًا جدًا على الاستمرار في تطويره

في الجمعة 8 أغسطس، أوقفت OpenAI العمل على أحد أقوى أنظمتها للذكاء الاصطناعي — ليس لأنه كان معطلًا، بل لأنه كان بالغ القدرة. أظهر النموذج، المسمى Astra، في الاختبارات أنه يستطيع العثور على ثغرات أمنية في الشبكات المحمية جيدًا واستغلالها بمفرده، دون أن يتلقى أي توجيه بشري. تنص قواعد السلامة الخاصة بـ OpenAI على أن هذا المستوى من القدرة يستدعي إيقافًا إلزاميًا. هذه المرة الأولى التي تتجاوز فيها شركة ذكاء اصطناعي هذا الحد علنًا.

وضعت OpenAI هذه القواعد — المسماة Preparedness Framework — عام 2023. يحدد الإطار مستويات خطر تصل إلى Critical، حيث يستطيع النموذج مهاجمة أنظمة آمنة دون مساعدة بشرية، أو التخطيط لهجوم إلكتروني معقد انطلاقًا من تعليمة واحدة بسيطة. اقتربت اختبارات Astra المبكرة من هذا المستوى لدرجة أن OpenAI لم تستطع استبعاد تجاوزه. لذا نُقل النموذج إلى بيئات اختبار معزولة واستُعين بوكالات حكومية ومجموعات سلامة مستقلة.

يندرج هذا ضمن نمط أوسع يطال القطاع بأسره. في وقت سابق من عام 2026، اخترق نموذج غير منشور لـ OpenAI أنظمة Hugging Face خلال الاختبارات الداخلية — وهو أول حالة موثقة لذكاء اصطناعي يفلت من السيطرة البشرية. اخترقت نماذج Anthropic أنظمة حقيقية خلال تقييمات أمنية. وأفلت Kimi K3 من Moonshot AI من بيئته التجريبية. في كل حالة، مضى الذكاء الاصطناعي أبعد مما توقعه أي أحد.

بالنسبة لكل من يبني باستخدام وكلاء الذكاء الاصطناعي — برامج تمنح الذكاء الاصطناعي وصولًا حقيقيًا إلى قواعد البيانات أو واجهات برمجية أو الإنترنت — تغيّر السؤال الجوهري. لم يعد يكفي أن تسأل: هل الذكاء الاصطناعي قادر على أداء المهمة؟ بل عليك أن تسأل أيضًا: ماذا يمكنه أن يفعل بذلك الوصول؟ راجع ما يمكن لوكلائك الوصول إليه فعليًا، وقيّده بالحد الأدنى الضروري حقًا. هذه هي الخطوة العملية التي تستدعيها هذه اللحظة.