حادثة حديثة في أستراليا تُظهر أن إعطاء أنظمة الذكاء الاصطناعي أهدافاً بدلاً من تعليمات صارمة خطوة بخطوة يمكن أن يصبح أكثر تعقيداً عندما ترتبط تلك الأنظمة بشيء ذي قيمة.
طلب رجل أسترالي من مساعده الذكي OpenClaw المعتمد على Claude حجز صف رياضي شهير.
ومع ذلك، اكتشف الوكيل ثغرة سمحت له بحجز الصفوف قبل موعدها بكثير، وهو ما لم يكن مقصوداً من إدارة الصالة الرياضية. اكتشف أن واجهة API الخاصة بالصالة تفتقر إلى ضوابط التصريح لإلغاء حجوزات الآخرين. واستخدم الوكيل هذه الثغرة لإلغاء حجز موجود وتحريك مستخدمه في قائمة الانتظار.
الأمر المهم هنا هو أن وكيل الذكاء الاصطناعي لم يُطلب منه القيام بذلك، بل رأى أن الوضع يمثل طريقة تقنية ممكنة لتحقيق هدفه.
الآن، إذا استبدلنا حجز الصالة الرياضية بمحفظة العملات المشفرة، قد تكون النتائج أكثر ضرراً بكثير.
في حال حصل وكيل الذكاء الاصطناعي على وصول إلى المحفظة وأُعطي تعليمات لتعظيم العوائد أو إيجاد أفضل صفقات DeFi، كيف نعرّف ما هو مسموح له فعلياً أن يفعل؟
نظرياً، يمكن لذكاء اصطناعي متطور بما يكفي أن يعثر على نقطة ضعف في API، ويتفاعل مع عقد ذكي، ويوافق على إنفاق العملات، ويحرك الأموال بين المنصات، أو يجري عملية تداول تحقق هدفه المعلن تقنياً لكنها تفعل شيئاً لم يرغب به المستخدم أبداً.
هذا لا يعني أن وكلاء الذكاء الاصطناعي الحاليين محكوم عليهم بانتهاك القواعد، ولكن حادثة حجز الصف تبين لماذا يستحق هذا النوع من المخاطر اهتماماً خاصاً.
من الصعب تحديد المسؤولية عن تصرفات وكلاء الذكاء الاصطناعي غير المصرح بها، لأنه لا توجد قوانين بعد ضد مثل هذه الحالات. وقد يعتمد ذلك كثيراً على النية. على سبيل المثال، إذا منح شخص ما الوكيل الذكي سلطة واسعة عن علم، فقد يُعتبر مسؤولاً عما يفعله الوكيل في النهاية.
بالإضافة إلى ذلك، قد يواجه مطور الذكاء الاصطناعي تدقيقاً إذا صُمم النظام أو رُوج له دون العناية الكافية. بالمثل، قد يتعرض مزود المحفظة للمساءلة إذا لم يوفر ضوابط حماية قوية، كما يمكن أن تشترك بروتوكولات DeFi أو مشغلي API في المسؤولية إذا سمحت ثغراتهم الأمنية بحدوث فعل الذكاء الاصطناعي.
حتى اليوم، ليست هناك قاعدة عالمية تجعل الذكاء الاصطناعي نفسه مسؤولاً، لكن في حال تكررت مثل هذه الحوادث قد تحدث بعض التغييرات.
