أعلنت شركة KnowBe4، المنصة العالمية المتخصصة في إدارة مخاطر العنصر البشري ومخاطر الذكاء الاصطناعي الوكيلي، عن إطلاق نظام Agent Risk Manager، والذي يُعد أول حل دفاعي من نوعه في القطاع مصمم لتأمين ومراقبة وحوكمة سلوك وكلاء الذكاء الاصطناعي المستقلين.
ويأتي هذا الحل كجزء أساسي من منصة KnowBe4 HRM+، ليحدث تحولًا مهمًا في الطريقة التي تتعامل بها المؤسسات مع مخاطر القوى العاملة البشرية والأنظمة المدعومة بالذكاء الاصطناعي.
فجوة أمنية جديدة في بيئات الذكاء الاصطناعي الوكيلي
مع انتقال بيئات العمل من نماذج مدعومة بالذكاء الاصطناعي إلى أنظمة تعتمد على الوكلاء الأذكياء بشكل كامل، ظهرت فجوة أمنية جديدة تتعلق بسلوك هذه الوكلاء.
ويركّز الحل الجديد على معالجة المخاطر السلوكية بدلًا من الاكتفاء بحماية الأكواد أو واجهات البرمجة، حيث يعمل على منع الإجراءات غير المصرح بها مثل تسريب البيانات الحساسة، واكتشاف هجمات الحقن غير المباشر للأوامر، وتطبيق سياسات حوكمة صارمة على الوكلاء داخل المؤسسات.
حوكمة سلوكية في الوقت الفعلي لوكلاء الذكاء الاصطناعي
يوفر نظام Agent Risk Manager طبقة تشغيلية لحظية تتحكم في سلوك الوكلاء بعد نشرهم داخل بيئات العمل، مع التركيز على مراقبة الأفعال وليس فقط الصلاحيات.
وقال جريج كراس، الرئيس التنفيذي لقسم المنتجات في KnowBe4:
“قضت الصناعة سنوات في تأمين العنصر البشري، لكن اليوم أصبح وكلاء الذكاء الاصطناعي جزءًا من القوى العاملة. وتأمين التعليمات ليس سوى نصف التحدي، بينما يركز Agent Risk Manager على مخرجات وأفعال هؤلاء الوكلاء لضمان عدم تحولهم إلى ثغرة أمنية داخل الأنظمة.”
أبرز قدرات نظام Agent Risk Manager
يقدم النظام مجموعة من القدرات الأساسية التي تعزز أمن وحوكمة الذكاء الاصطناعي، وتشمل:
- الضوابط السلوكية: مراقبة لحظية لأفعال الوكلاء لمنع تسريب البيانات أو التنفيذ غير المقيد.
- حوكمة هوية الوكلاء: تحديد الصلاحيات والأدوات المسموح بها لكل وكيل.
- محاكاة الهجمات: اختبار الوكلاء ضد تقنيات الحقن والهندسة الاجتماعية والهجمات المتقدمة.
- تحليل قائم على البيانات: يعتمد على بيانات سلوكية تمتد لأكثر من 15 عامًا للتنبؤ بانحرافات التشغيل.
قدرات متقدمة لرصد المخاطر وإدارة التشغيل
يتضمن النظام مجموعة واسعة من أدوات الرصد والإدارة، من بينها:
- رصد حقن التعليمات: اكتشاف محاولات كسر الحماية أو تجاوز المنطق أو الحقن غير المباشر.
- رصد البيانات الحساسة: استخدام أكثر من 20 مصنفًا لاكتشاف البيانات الشخصية وبيانات الاعتماد ومنع تسريبها.
- رصد استهلاك الموارد: منع إساءة استخدام واجهات البرمجة أو عمليات الاستعلام المفرطة.
- حصر الوكلاء: فهرسة تلقائية للوكلاء والأدوات عبر البيئات المختلفة.
- سجلات تدقيق: سجلات شاملة وقابلة للتتبع لأغراض الامتثال والتحقيقات الأمنية.
- إدارة التكامل: إدارة مركزية لدورة حياة الوكلاء عبر الأنظمة المختلفة.
- الإعداد الموجّه: إعداد سريع وسهل يتيح اكتشاف أول وكيل خلال دقائق.
تحول في مشهد الأمن السيبراني
يتزامن إطلاق النظام مع يوم إدارة الهوية، والذي يسلط الضوء على أهمية حماية الهويات الرقمية للبشر والآلات في بيئات الذكاء الاصطناعي الحديثة.
ويؤكد هذا التوجه أن التهديدات السيبرانية لم تعد تقتصر على المستخدمين البشر فقط، بل أصبحت تشمل وكلاء ذكاء اصطناعي قادرين على اتخاذ قرارات وتنفيذ إجراءات داخل الأنظمة.
رؤية KnowBe4 لمستقبل الأمن السيبراني
تعكس هذه الخطوة توجه KnowBe4 نحو بناء منظومة أمنية شاملة تعتمد على دمج إدارة المخاطر البشرية مع مخاطر الذكاء الاصطناعي، في إطار يواكب التطورات المتسارعة في بيئات العمل الرقمية الحديثة.
