وأوضحت الدراسة، الصادرة في تقرير بعنوان «صلاحية التصرّف: كيف تتجاوز استقلالية الذكاء الاصطناعي الحدود المفروضة عليه»، أن 81% من المؤسسات في الإمارات والسعودية تمنح الذكاء الاصطناعي صلاحية اتخاذ قرارات كانت تتطلب موافقة بشرية قبل عام، متجاوزة المتوسط العالمي البالغ 70% بفارق 11 نقطة مئوية.
وفي المقابل، لا تستطيع سوى 59% من المؤسسات في المنطقة رصد وتدقيق جميع الإجراءات التي ينفذها وكلاء الذكاء الاصطناعي، ما يعكس فجوة بين مستوى الصلاحيات الممنوحة لهذه الأنظمة وقدرة المؤسسات على مراقبة أنشطتها والتحكم فيها.
79% من المؤسسات واجهت مخاطر مرتبطة بالذكاء الاصطناعي
وبحسب الدراسة، واجهت 79% من مؤسسات الشرق الأوسط مشكلة أمنية واحدة على الأقل أو مؤشراً تحذيرياً مرتبطاً بالذكاء الاصطناعي خلال الاثني عشر شهراً الماضية، مقارنة بـ76% على مستوى العالم.
وأشارت النتائج إلى أن 39% من المؤسسات في المنطقة تلقت توصيات من الذكاء الاصطناعي كان من شأن تنفيذها التسبب في مخاطر أمنية، مقابل 35% عالمياً.
كما أفادت 23% من المؤسسات بأن الذكاء الاصطناعي نفذ إجراءً غير مصرّح به أو تسبب في تنفيذه، فيما واجهت النسبة نفسها حادثاً أمنياً مرتبطاً بهذه التقنية أو واقعة كادت تتحول إلى حادث أمني.
وأظهرت البيانات أيضاً أن 22% من المؤسسات رصدت وصول الذكاء الاصطناعي إلى بيانات لم يكن مخولاً بالوصول إليها، بينما سجلت النسبة نفسها اتصالات بين وكلاء الذكاء الاصطناعي أو أدواته وأنظمة لم تحصل على موافقة أمنية.
وتسلط هذه المؤشرات الضوء على مخاطر قد تنشأ من داخل الأنظمة المؤسسية نفسها، عندما تعمل أدوات الذكاء الاصطناعي بصلاحيات واسعة تتيح لها الوصول إلى التطبيقات والبيانات والبنية التحتية الرقمية.
توسع استخدام الذكاء الاصطناعي في المهام الحساسة
تتزايد المخاطر المحتملة مع إسناد مهام أكثر حساسية إلى أنظمة الذكاء الاصطناعي؛ إذ تستخدم 53% من مؤسسات الشرق الأوسط هذه التقنية في عمليات الأمن السيبراني.
وأفادت الدراسة بأن 34% من المؤسسات لا تمانع السماح للذكاء الاصطناعي بإجراء تعديلات على الشيفرات البرمجية دون إشراف بشري، فيما تقبل النسبة نفسها منحه صلاحية إضافة أذونات الوصول أو إلغائها بصورة مستقلة.
كذلك، تسمح 22% من المؤسسات للذكاء الاصطناعي بإجراء تحقيقات أمنية دون مراجعة بشرية، وهو ما يبرز أهمية تحديد حدود واضحة للمهام التي يمكن لهذه الأنظمة تنفيذها بشكل مستقل.
حذر أكبر تجاه المخاطر رغم منح الصلاحيات
على الرغم من توسع تفويض الذكاء الاصطناعي، أظهرت الدراسة أن مؤسسات الشرق الأوسط تتبنى نهجاً أكثر تحفظاً تجاه المخاطر السيبرانية مقارنة بنظيراتها عالمياً.
فقد أعربت 44% من المؤسسات في المنطقة عن استعدادها لقبول مستوى أعلى من المخاطر السيبرانية مقارنة بما كانت تقبله قبل 12 شهراً، مقابل 56% عالمياً. ومع ذلك، تسمح 59% من مؤسسات هذه المجموعة للذكاء الاصطناعي بتنفيذ إجراءات بصورة مستقلة في بيئات التشغيل الفعلية.
وفي المقابل، تدرك المؤسسات الحاجة إلى ضوابط أمنية أكثر ملاءمة لطبيعة هذه التقنية؛ إذ ترى 87% منها أن وكلاء الذكاء الاصطناعي يحتاجون إلى ضوابط تختلف جذرياً عن تلك المستخدمة مع البرمجيات التقليدية، مقارنة بـ82% عالمياً.
كما تتفق 80% من المؤسسات على أن تقييد نطاق وصول الذكاء الاصطناعي أكثر فاعلية من محاولة التنبؤ بكل تهديد محتمل، مقابل 69% على المستوى العالمي. وتعتبر 30% من المؤسسات تحديد الإجراءات المسموح للذكاء الاصطناعي بتنفيذها صراحةً أحد العناصر الأساسية للضبط الأمني، مقارنة بـ25% عالمياً.
إلوميو: الحل في ضبط الصلاحيات وليس إبطاء التبني
وقال راغو نانداكومارا، نائب الرئيس لاستراتيجية القطاع في شركة «إلوميو»، إن المؤسسات في الشرق الأوسط تمنح الذكاء الاصطناعي صلاحيات فعلية، لكن توسيع هذه الصلاحيات دون ضوابط يخلق مخاطر متزايدة.
وأوضح أن انتقال الذكاء الاصطناعي من اقتراح الإجراءات إلى تنفيذها يتطلب وضع حدود واضحة وقابلة للتطبيق تحدد نطاق وصوله، والأنظمة التي يمكنه الاتصال بها، ومدى انتشار أي نشاط غير متوقع.
وأضاف أن الحل لا يتمثل في إبطاء اعتماد تقنيات الذكاء الاصطناعي، بل في ضمان ألا يؤدي ارتفاع مستوى استقلاليتها إلى زيادة المخاطر الأمنية.
وتوصي الدراسة بتطبيق نهج «الثقة المعدومة» لضبط نطاق وصول أنظمة الذكاء الاصطناعي، بدلاً من الاعتماد على محاولة التنبؤ بجميع الإجراءات التي قد تنفذها، بما يساعد المؤسسات على الحد من الأضرار المحتملة في حال حدوث سلوك غير متوقع.
منهجية الدراسة
أجرت شركة «سابيو ريسيرش» الدراسة لصالح «إلوميو»، وشملت استطلاع آراء 1,100 من صناع القرار في مجالي تقنية المعلومات والأمن عبر عشرة أسواق، من بينهم 100 مشارك من الإمارات والسعودية.
وتستند النتائج الخاصة بالشرق الأوسط إلى العينة الإقليمية التي ضمت 100 مشارك، فيما شملت الدراسة العالمية أسواقاً أخرى، من بينها الولايات المتحدة والمملكة المتحدة وفرنسا وألمانيا وسويسرا والنمسا واليابان وأستراليا وسنغافورة والبرازيل والمكسيك.
