أعلنت جوجل ديب مايند، بالتعاون مع Schmidt Sciences وCooperative AI Foundation وARIA وبدعم من Google.org، عن دعوة تمويل بحثية تصل إلى 10 ملايين دولار لدعم أبحاث أمان أنظمة الذكاء الاصطناعي متعددة الوكلاء، في وقت تتجه فيه هذه الأنظمة إلى أدوار أوسع داخل أدوات العمل اليومية.
وتستهدف المبادرة باحثين من مختلف أنحاء العالم لدراسة كيفية تصرف أنظمة الذكاء الاصطناعي عندما لا يكون النموذج منفردًا، بل مجموعة من الوكلاء الذين يتواصلون ويتنافسون ويتعاونون داخل بيئة واحدة، بدل الاكتفاء بقياس أمان نظام واحد فقط.
ويشمل هذا النوع من الأنظمة مجالات مثل أنظمة الحجز والتداول والأمن السيبراني وإدارة المستودعات والروبوتات، حيث يمكن أن تعمل أكثر من جهة ذكية في الوقت نفسه، ما يجعل فهم التفاعل بينها جزءًا أساسيًا من تقييم الأمان.
ما المقصود بتعدد الوكلاء
المقصود بتعدد الوكلاء أن يؤدي أكثر من نظام ذكي مهامًا مستقلة أو شبه مستقلة داخل البيئة نفسها، مثل التفاوض أو توزيع المهام أو المراقبة المتبادلة. وقد يكون هذا التعاون مفيدًا، لكنه قد ينتج أيضًا سلوكيات معقدة يصعب توقعها مسبقًا.
ويشبه هذا المشهد مدينة مزدحمة بالسائقين، فليس كافيًا أن يكون كل سائق ماهرًا وحده، بل يجب فهم ما يحدث عندما يتحرك الجميع في الوقت نفسه، وهل يتعاونون أم يتنافسون بطريقة خطرة، وهل يلتزمون القواعد نفسها، أم تظهر سلوكيات غير متوقعة من تفاعلهم معًا.
لماذا يركز البحث على هذه المرحلة
تأتي هذه الخطوة مع تسارع الشركات في إدخال الوكلاء إلى أدوات العمل اليومية، وهو ما يجعل اختبار الأمان قبل التوسع في الاستخدام أكثر أهمية من معالجة الأخطاء بعد وقوعها.
وتشمل الخطوات العملية التي تبرزها هذه المقاربة اختبار الوكلاء في بيئات مغلقة، وتحديد صلاحيات واضحة، وتسجيل القرارات، ووضع مراجعة بشرية، ومنع الوصول المفتوح إلى البيانات الحساسة دون ضوابط.