وأظهرت الدراسة، التي حملت عنوان «تأمين الذكاء الاصطناعي في المؤسسات بدولة الإمارات»، أن 80% من الرؤساء التنفيذيين للمعلومات يثقون بقدرة استثمارات مؤسساتهم في الذكاء الاصطناعي على تحقيق النتائج المرجوة خلال عامين، في مقابل استمرار تحديات تتعلق بحماية البيانات، والرقابة على الأدوات المستخدمة، وتحديد المسؤوليات وصلاحيات الموافقة على نشر الحلول الجديدة.
واستندت النتائج إلى استطلاع شمل 175 من كبار المسؤولين التنفيذيين في مجالي الأمن والتكنولوجيا بالمؤسسات الإماراتية، وسلطت الضوء على الحاجة إلى تطوير أطر الحوكمة بالتوازي مع التوسع في استخدام تطبيقات الذكاء الاصطناعي.
%43 من الموظفين يستخدمون أدوات ذكاء اصطناعي غير معتمدة
أبرزت الدراسة الاستخدام المتزايد لأدوات الذكاء الاصطناعي خارج نطاق الضوابط المؤسسية، إذ أفاد 43% من الرؤساء التنفيذيين للمعلومات بأن الموظفين يستخدمون بانتظام أدوات لم تعتمدها مؤسساتهم أو لم توفرها لهم.
وفي المقابل، رصدت أكثر من نصف فرق الأمن السيبراني المشاركة حالات لتسرب البيانات عبر أدوات ذكاء اصطناعي غير مصرح بها، بما يعكس التحديات التي تواجه المؤسسات في مراقبة تدفق المعلومات وضمان عدم مشاركة البيانات الحساسة عبر تطبيقات لا تخضع للرقابة المعتمدة.
وأشارت الدراسة إلى أن المخاطر لم تعد تقتصر على الاستخدام غير المنظم للأدوات، بل امتدت إلى أنظمة الذكاء الاصطناعي المدمجة في العمليات اليومية؛ حيث أكد 92% من قادة الأمن السيبراني أن هذه الأنظمة تتعامل مع بيانات حساسة.
كما أفاد 54% من المشاركين بمواجهة حالات تعذر فيها تفسير قرار صادر عن نظام للذكاء الاصطناعي أو إخضاعه للتدقيق في سياق مرتبط بالامتثال، وهو ما يسلط الضوء على أهمية الشفافية وإمكانية تتبع القرارات التي تنتجها هذه الأنظمة.
الذكاء الاصطناعي الوكيل يختبر جاهزية المؤسسات
يمثل الذكاء الاصطناعي الوكيل، الذي يستطيع تنفيذ مهام متعددة بدرجات متفاوتة من الاستقلالية، تحديًا إضافيًا أمام أطر الأمن والحوكمة داخل المؤسسات.
ووفقًا للدراسة، بدأت أكثر من نصف المؤسسات المشمولة بالاستطلاع نشر وكلاء ذكاء اصطناعي أو العمل على تطويرهم، بينما لا ترى سوى مؤسسة واحدة من كل عشر مؤسسات أنها مستعدة بالكامل لنشر هذه الأنظمة بصورة آمنة.
وتؤكد هذه النتائج أهمية تحديد الصلاحيات الممنوحة لوكلاء الذكاء الاصطناعي، ووضع ضوابط واضحة للوصول إلى البيانات والأنظمة، إلى جانب تحديد المسؤوليات وآليات الرقابة والمساءلة، بما يحد من مخاطر تنفيذ إجراءات غير مصرح بها أو الوصول إلى معلومات حساسة.
فجوة في صلاحيات الموافقة والتقييم الأمني
كشفت الدراسة عن قصور في إشراك فرق الأمن السيبراني في القرارات المتعلقة بتبني الذكاء الاصطناعي، إذ لا يتمتع سوى 15% من رؤساء أمن المعلومات بصلاحية إلزامية للموافقة على نشر حلول الذكاء الاصطناعي، فيما تحدد 10% فقط من المؤسسات متطلبات الأمن قبل البدء في تقييم هذه الحلول.
وفي كثير من الحالات، تُشرك فرق الأمن بعد اتخاذ القرارات الاستراتيجية الرئيسية أو بدء إجراءات النشر، الأمر الذي قد يقلص فرص تحديد المخاطر ومعالجتها في المراحل المبكرة.
كما أظهرت النتائج أن 30% فقط من المؤسسات تستخدم منهجية منظمة لتقييم وضعها الأمني في مجال الذكاء الاصطناعي، بينما تعتمد 40% بصورة رئيسية على التقييمات التفاعلية أو مراجعات الموردين أو عمليات التدقيق التي تجريها جهات خارجية.
وعلى مستوى الخبرات الداخلية، أفادت الدراسة بأن 87% من فرق الأمن السيبراني لا تشعر بالارتياح الكامل تجاه موضوعات أمن الذكاء الاصطناعي، في حين تمتلك 13% فقط منهجيات ونماذج تشغيل محددة بالكامل.
وتوصي الدراسة المؤسسات التي تفتقر إلى الخبرات المتخصصة بالاستعانة بشركاء موثوقين في خدمات الأمن المُدارة لدعم عمليات حصر الأصول والتقييم الأولي للمخاطر، مع التأكيد على بقاء المسؤولية النهائية عن الأمن والحوكمة لدى المؤسسة نفسها.
«سيبكس»: الجاهزية تتجاوز معدلات تبني التكنولوجيا
وقال هادي أنور، الرئيس التنفيذي لشركة «سيبكس القابضة»، إن جاهزية المؤسسات لا يمكن قياسها بمستوى اعتماد الذكاء الاصطناعي وحده، موضحًا أن الاستفادة من الفرص التي توفرها التكنولوجيا تتطلب مواكبة التطور التقني بمساءلة واضحة وحوكمة أقوى ونماذج أمنية قادرة على التعامل مع الأنظمة المتزايدة في استقلاليتها.
وأضاف أن المؤسسات الأكثر قدرة على الاستفادة من الذكاء الاصطناعي هي التي تدمج الأمن والحوكمة في برامجها منذ البداية، بدلًا من التعامل معهما باعتبارهما إجراءات لاحقة لعملية التطوير أو النشر.
«مايكروسوفت»: ضرورة تحديد المسؤوليات وضبط الوصول إلى البيانات
وقالت ريما سمعان، قائدة قطاع البيانات والذكاء الاصطناعي في مايكروسوفت الإمارات، إن وتيرة تبني الذكاء الاصطناعي ستستمر في التسارع، ما يستلزم تطوير آليات واضحة لحوكمته بالتوازي مع توسع دوره في القرارات اليومية وسير العمل.
وأوضحت أن المؤسسات تحتاج إلى رؤية واضحة لمواقع استخدام الذكاء الاصطناعي، وتحديد المسؤوليات، ووضع ضوابط مناسبة للبيانات وحقوق الوصول، مع تزايد أهمية هذه الإجراءات في ظل انتشار وكلاء الذكاء الاصطناعي.
وأكدت أن بناء هذه الضوابط منذ المراحل المبكرة من شأنه مساعدة المؤسسات الإماراتية على التوسع في استخدام التكنولوجيا مع الحفاظ على الثقة والأمن.
بدورها، قالت شيلبي هاندا، المدير المساعد للأبحاث في قطاع الأمن والثقة لدى IDC، إن تبني الذكاء الاصطناعي في المؤسسات الإماراتية يتسارع بدعم من الطموحات الوطنية وأجندات الابتكار، إلا أن حوكمة الأمن لم تواكب هذه الوتيرة بالقدر نفسه.
وأشارت إلى أن فرق الأمن السيبراني تواجه بالفعل مخاطر مرتبطة بالذكاء الاصطناعي، بينما لا يزال العديد من رؤساء أمن المعلومات يفتقرون إلى صلاحيات رسمية لاتخاذ قرارات النشر، معتبرة أن معالجة الفجوة تتطلب أطرًا واضحة للحوكمة وتحديد المسؤوليات وتعزيز الرقابة.
ثلثا فرق الأمن تستخدم الذكاء الاصطناعي في الدفاع السيبراني
على الرغم من المخاطر المرتبطة بتوسع استخدام الذكاء الاصطناعي، أظهرت الدراسة أن نحو ثلثي فرق الأمن السيبراني في دولة الإمارات تستخدم هذه التكنولوجيا بالفعل في أعمالها، فيما تخطط الفرق المتبقية لتبنيها خلال الأشهر الاثني عشر المقبلة.
ويعكس ذلك تزايد دور الذكاء الاصطناعي في تعزيز قدرات اكتشاف التهديدات والتحقيق فيها والاستجابة لها، بالتوازي مع الحاجة إلى تأمين الأنظمة الذكية المستخدمة داخل المؤسسات.
وتوصي الدراسة بمنح فرق الأمن دورًا رسميًا في قرارات اعتماد حلول الذكاء الاصطناعي، ووضع إجراءات واضحة للموافقة والمساءلة، وإجراء عمليات تدقيق للأنظمة والبيانات التي تعالجها، إلى جانب تنظيم استخدام الأدوات غير المعتمدة وتحديد حدود صلاحيات وكلاء الذكاء الاصطناعي.
وتخلص النتائج إلى أن المرحلة المقبلة من تبني الذكاء الاصطناعي في المؤسسات الإماراتية ستتطلب دمج الأمن والحوكمة والرقابة في دورة حياة الحلول الذكية منذ مراحل التخطيط والتقييم وحتى التشغيل، بما يسمح بتوسيع الاستفادة من التكنولوجيا مع الحد من المخاطر السيبرانية ومخاطر الامتثال.
