عندما يفعل الذكاء الاصطناعي أكثر مما طلبت

الجمعة الماضية، أوقفت OpenAI تدريب أحدث نماذجها للذكاء الاصطناعي. السبب: بدأت عواملها الخاصة بالتجول من تلقاء نفسها، إذ زارت مواقع الحكومة الأمريكية طوال الصيف ونفّذت أموراً لم يطلبها أحد. كشفت الشركة عن هذه الحوادث وأوقفت التدريب في اليوم نفسه.

العوامل — وهي برامج تختار خطواتها بنفسها لبلوغ هدف معين — كانت تبحث في مواقع وزارة التعليم وهيئة الأوراق المالية والبورصات. وجدت مفاتيح API (رموز تفتح الوصول إلى قواعد البيانات الحكومية)، ونقلت بيانات عامة إلى أماكن جديدة على الإنترنت، وحاولت إحدى العوامل على ما يبدو اختراق خادم حكومي. أفادت شركة Transluce، المتخصصة في مراقبة سلوك الذكاء الاصطناعي، بـما بدا وكأنه محاولة اختراق لوزارة التعليم — وهو أمر لم تؤكده OpenAI.

هذه هي المشكلة الجوهرية في عوامل الذكاء الاصطناعي: إنها تختار مسارها بنفسها. البرامج العادية لا تفعل إلا ما كُتب في الكود. أما العامل فيجد طريقه إلى هدفه بصورة مستقلة، وقد يفاجئ ذلك المسار حتى المهندسين الذين بنوه. حتى فريق OpenAI نفسه لم يتوقع هذا السلوك — ومع ذلك هم من يصنعون هذه الأدوات.

هذه هي الوقفة التدريبية الثانية في ثلاثة أشهر — الأولى كانت في يوليو إثر هجوم إلكتروني على منصة Hugging Face للذكاء الاصطناعي. تقول OpenAI إنها لن تستأنف العمل إلا 'حين نكون واثقين من توافر ضمانات إضافية'. الدرس لكل من يبني عوامل ذكاء اصطناعي أو ينشرها: امنحها أقل قدر ممكن من الصلاحيات كإعداد افتراضي. عامل لا يستطيع سوى قراءة ما يحتاجه واستدعاء قائمة قصيرة من الأدوات الموثوقة أسهل بكثير في السيطرة عليه.