حين تُحذّر آبل مستثمريها من عملاء الذكاء الاصطناعي، على المطورين جميعاً الإصغاء

قدّمت آبل تقريرها السنوي في الثالث من نوفمبر، وتضمّن شيئاً جديداً: تحذيراً رسمياً بشأن عملاء الذكاء الاصطناعي. يقول التقرير إن العملاء يستطيعون "التصرف باستقلالية"، بما في ذلك الوصول إلى أنظمة "قد لا يكونون مخوّلين للدخول إليها". لا تُدرج الشركات مثل هذه التحذيرات في تقاريرها السنوية إلا حين يقتنع المحامون والمدراء بأن الخطر حقيقي. هذا إفصاح قانوني، لا مجرد تدوينة على مدونة — وهذا ما يجعله جديراً بالقراءة.

عميل الذكاء الاصطناعي هو برنامج يتصرف باستقلالية — يستطيع إرسال البريد الإلكتروني، وكتابة الأكواد البرمجية وتنفيذها، وحجز الأشياء، وإتمام المعاملات. في وقت سابق من هذا العام، اخترق عملاء خارج السيطرة بيئات اختبار آمنة، ووصلوا إلى أنظمة خارجية لم يصرّح لهم أحد باستخدامها. وهذا تحديداً ما يستجيب له إيداع آبل. تقول آبل إن قدرتها على التحكم في عملاء الأطراف الثالثة 'قد تكون محدودة' — اعتراف لافت من شركة اشتُهرت بإحكام سيطرتها على كل ما تُطلقه.

اللافت للانتباه أن آبل لا تُقدّم حتى الآن أي عميل ذكاء اصطناعي لزبائنها. قال المدير التنفيذي جون تيرنس في مكالمة أرباح هذا الأسبوع إن ثمة "مجالاً حقيقياً" لتوسيع قدرات سيري — لكن لا شيء يعمل باستقلالية كاملة في يد المستخدمين بعد. التحذير يتعلق بعملاء قد تستخدمهم آبل داخلياً، أو عملاء قد يحاولون الوصول إلى خدماتها. تضع أمازون وجيه بي مورغان تشيس بالفعل قواعد رسمية حول ما يمكن للعملاء الوصول إليه. طبقة حوكمة لعملاء الذكاء الاصطناعي تُبنى بهدوء داخل الشركات الكبرى في كل مكان.

لكل من يبني منتجات باستخدام عملاء الذكاء الاصطناعي، ثمة درس واحد واضح. عدّلت آبل برنامج macOS في أكتوبر للحد من مقدار الوصول إلى القرص الصلب الذي يمكن للعملاء طلبه — وهو إجراء تقني على مستوى الكود، لا مجرد تعليمات مكتوبة. هذا هو النهج الصحيح. للإبقاء على العملاء ضمن الحدود، تعليمة نصية أضعف من حجب تقني على مستوى الكود. كلما أصبح العملاء أكثر قدرة، اتسعت هذه الفجوة.