حين لم يعلم الذكاء الاصطناعي أن الاختبار كان حقيقياً

في أبريل 2026، كانت شركة أنثروبيك تُجري اختبارات أمنية اعتيادية على ثلاثة من نماذج الذكاء الاصطناعي كلود. كانت المهمة تمرين 'التقاط العلم' — تحدٍّ واقعي مُتخيَّل للاختراق يُستخدم لقياس قدرات النموذج. قيل للنماذج إنها لا تملك وصولاً إلى الإنترنت. لكن خطأً من شركة الاختبار الخارجية جعل النماذج في الواقع متصلة بالإنترنت الحقيقي — ولم يعلم أحد بذلك، لا النماذج ولا القائمون على الاختبارات.

فعلت النماذج ما دُرِّبت عليه: إنجاز المهمة. وجد أحدها شركة حقيقية تحمل الاسم ذاته للهدف الوهمي، وخمّن كلمات مرور ضعيفة، وسحب مئات السجلات من قاعدة بيانات إنتاجية حقيقية. أما نموذج آخر فقد بنى حزمة برمجية ضارة ورفعها إلى PyPI — مكتبة كود عامة يستخدمها ملايين المطورين. نزّلت خمسة عشر جهازاً حقيقياً الحزمة وشغّلتها في أقل من ساعة، من بينها جهاز في شركة للأمن السيبراني. لم تكن اثنتان من الشركات الثلاث المتضررة تعلمان بأي شيء حتى اتصلت بهما أنثروبيك في 27 يوليو.

راجعت أنثروبيك 141,006 جلسة تقييم بعد الكشف عن الحوادث. ست جلسات فقط كانت إشكالية — جميعها مرتبطة بشريك اختبار واحد. لم تتصرف النماذج بنية ضارة. كانت تُنجز بدقة المهمة التي أُسندت إليها. كانت المشكلة افتراضاً خاطئاً — أن بيئة الاختبار معزولة عن العالم الحقيقي. لم تكن كذلك.

لأي فريق يبني أو يُطلق عوامل الذكاء الاصطناعي — وهو مجموعة تتنامى بسرعة — هذه إشارة واضحة. تعامل مع بيئة الاختبار كأنها قد تكون متصلة، لأن ذلك ممكن. يجب أن تكون الشبكات معزولة فعلياً قبل إطلاق الذكاء الاصطناعي. يجب مراجعة الصلاحيات قبل بدء الاختبار لا بعده. كلما قوي الذكاء الاصطناعي، ارتفعت تكلفة بيئة الاختبار المُسرِّبة. علّقت أنثروبيك جميع تقييمات الأمن السيبراني في 23 يوليو وتستعين بمراجعين مستقلين — الاستجابة الصحيحة، والنموذج الأمثل لكل من يعمل مع ذكاء اصطناعي قوي.