يحمل انتقال تقنيات الذكاء الاصطناعي من مجرد تقديم الإجابات التقليدية إلى تنفيذ المهام نيابة عن المستخدمين تحديات أمنية بالغة الأهمية، خصوصا مع قدرة الوكلاء الرقميين على الوصول المباشر إلى الحسابات والملفات وتوجيه الرسائل والتصرف وفق التعليمات الشخصية.
ويسلط هذا التحول الضوء على مخاطر الأخطاء البرمجية أو التباس الصلاحيات؛ إذ قد يتسبب خطأ بسيط في تحديد وجهة الإرسال أو إدارة الصلاحيات بكشف معلومات حساسة للغاية، حتى من دون التعرض لأي اختراق تقني للحسابات، وفقا لما كشفه تقرير حديث نشره موقع بيزنس إنسايدر.
وتشير التقارير إلى واقعة عملية تمثلت في نشر بيانات مالية شخصية في مساحة عمل مشتركة عبر منصة سلاك عن طريق وكيل مالي يعتمد على روبوت غروك، مما يعكس الحاجة الملحة لفرض ضوابط صارمة توازن بين استقلالية الذكاء الاصطناعي وحماية أمن وخصوصية المستخدمين.
