وكيل الذكاء الاصطناعي لا يعرف القواعد

كل أسبوع، تمنح فرق أكثر وكلاء الذكاء الاصطناعي صلاحية الوصول إلى ملفاتها ورسائلها وأدواتها وبيانات عملائها. هؤلاء الوكلاء سريعون، لا يكلّون، ومفيدون. لكن هاييت غالو، المديرة التنفيذية للأمن في مايكروسوفت، نشرت تحذيراً صريحاً هذا الأسبوع: وكيل الذكاء الاصطناعي أصبح الآن شخصاً داخلياً. إنه يعمل في قلب مؤسستك، ويتصرف باسمك، ويمكن أن يتسبب في أضرار دون أن يقصد أحد ذلك.

كلمة 'داخلي' مهمة هنا. الخطر الداخلي ليس فاعلاً خبيثاً — بل هو شخص يملك صلاحية وصول مشروعة ويتسبب في أضرار، عادةً بسبب اتباع تعليمات ناقصة. وتؤكد غالو أن وكلاء الذكاء الاصطناعي ينطبق عليهم هذا الوصف شبه تلقائياً. فهم مدرَّبون على إتمام المهام، لا على فهم أعراف مؤسستك. لا يعرفون ما تعدّه حساساً، ولا الموافقات التي تحتاجها، ولا أين تضع الحدود.

وكان ساتيا ناديلا، الرئيس التنفيذي لمايكروسوفت، أكثر صراحةً: ضمانات المزوّد لا تحميك. حتى لو كان الذكاء الاصطناعي خلف وكيلك قادماً من أنثروبيك أو أوبن إيه آي أو غوغل، لا يمكنك تحويل المسؤولية عما يفعله داخل أنظمتك. انضم بالفعل أكثر من 100 شركة — من بينها كراودسترايك وسيلزفورس — إلى منصة جديدة مدعومة من إنفيديا توفر تحكماً على المستوى المادي في الوكلاء.

الخلاصة العملية بسيطة. قبل أن تمنح أي وكيل ذكاء اصطناعي صلاحيات واسعة — للبريد الإلكتروني وقواعد البيانات وواجهات البرمجة وأنظمة الدفع — اسأل نفسك: ما أسوأ ما يمكن أن يفعله عن غير قصد وهو يحاول فقط المساعدة؟ عامله كموظف جديد ماهر جداً لكنه لا يعرف شيئاً عن قواعد شركتك وحدودها. أعطِ الوكلاء فقط الصلاحية التي تتطلبها كل مهمة — وابنِ ضوابط لا تعتمد على فهم الوكيل لها.