بالو ألتو نتوركس تحذر من مخاطر البرمجة المعتمدة على الذكاء الاصطناعي وتستعرض استراتيجيات الحماية

حذرت دراسة جديدة صادرة عن بالو ألتو نتوركس Palo Alto Networks اليوم من المخاطر الأمنية المرتبطة بالبرمجة المعتمدة على الذكاء الاصطناعي، مؤكدة ضرورة تبني استراتيجيات فعّالة للحماية من هذه التهديدات.

لا يمكن إنكار الفوائد التي تقدمها البرمجة المدعومة بالذكاء الاصطناعي في تسريع العمل وزيادة إنتاجية فرق التطوير، خصوصاً في بيئات سحابية معقدة تواجه ضغوطًا متواصلة لتسليم البرمجيات بسرعة. لكن هذه السرعة تأتي مع مخاطر جدية، إذ غالباً ما تولد أنظمة الذكاء الاصطناعي شيفرات وظيفية سريعة دون مراعاة ضوابط الأمان، ما يؤدي إلى إدخال ثغرات تقنية متراكمة تعرّض الأنظمة لاختراقات محتملة.

 تحديات اعتماد البرمجة بالذكاء الاصطناعي

يتضاعف الخطر عندما يستخدم المطورون غير المتخصصين هذه الأدوات دون خبرة كافية لمراجعة الشيفرات أو التحقق من مستويات الأمان. هذه الفجوة تمثل تحديًا أساسيًا للقيادات التنفيذية ومسؤولي أمن المعلومات على حد سواء.

قد يُطلب من نظام الذكاء الاصطناعي تنفيذ مهمة بسيطة مثل جلب بيانات المستخدم من واجهة برمجة التطبيقات، ويولد الشيفرة بسرعة. ورغم كفاءتها الوظيفية، فإنها تتجاهل ضوابط المصادقة وآليات الحد من الوصول، ما يعرض البيانات الحساسة للتسرب إذا تم استغلال النظام بطريقة خبيثة.

 الأسباب الجذرية لمخاطر البرمجة المعتمدة على الذكاء الاصطناعي

توضح الدراسة أن المخاطر تتوزع ضمن فئات رئيسية، أبرزها:

• تغليب الوظيفة على الأمان: تم تصميم نماذج الذكاء الاصطناعي لتوليد شيفرات فعّالة وسريعة، دون تضمين ضوابط أمان افتراضية، وغالباً ما تُترك أدوات فحص الأمان كخيارات إضافية وليست جزءاً أساسياً.

• غياب الوعي بالسياق الحرج: يفتقر النظام الإدراكي للمخاطر المرتبطة ببيئات التطوير مقابل بيئات الإنتاج، ما يؤدي إلى نتائج غير آمنة.

• مخاطر سلسلة التوريد الوهمية: قد تنتج النماذج مكتبات غير موجودة فعلياً، ما يخلق تبعيات غير قابلة للحل ويعقّد دورة التطوير.

• المطورون غير المتخصصين والثقة المفرطة بالشيفرات: الاعتماد على أدوات الذكاء الاصطناعي دون تدريب كافٍ يؤدي إلى إدخال ثغرات جديدة وتراكم الدين التقني، خصوصاً عند ظهور الشيفرة على أنها صحيحة وظيفياً.

ضعف الرقابة والتقييم المؤسساتي

تشير النتائج إلى أن معظم المؤسسات تسمح باستخدام أدوات البرمجة بالذكاء الاصطناعي دون فرض سياسات صارمة تمنع الاستخدام غير الآمن. كما أن عددًا قليلاً فقط من المؤسسات يجري تقييمًا رسميًا للمخاطر، بينما يفتقر معظمها إلى مراقبة مستمرة للمدخلات والمخرجات والآثار الأمنية.

 إطار عمل لمعالجة المخاطر

توصي Palo Alto Networks بتطبيق إطار عمل شامل لمعالجة مخاطر البرمجة بالذكاء الاصطناعي، يتمثل في إعادة إدماج ضوابط الأمان ضمن عملية تطوير الشيفرة نفسها بدلاً من التعامل معها كخطوة لاحقة أو اختيارية. يضمن هذا النهج حماية أفضل للتطبيقات وتقليل الثغرات التقنية، مع الحفاظ على سرعة وكفاءة إنتاجية فرق التطوير.