مع التوسع في استخدام نماذج الذكاء الاصطناعي لتحسين العمليات وتقديم تجارب مبتكرة للعملاء، تزداد التحديات الأمنية المرتبطة بهذه النماذج. تهدف “FuzzyAI” إلى مساعدة المؤسسات في فهم هذه التهديدات ومعالجتها من خلال إجراء اختبارات شاملة على نماذج الذكاء الاصطناعي للكشف عن ثغرات مثل تجاوز جدران الحماية، وتسريب البيانات، وحقن الأوامر الضارة.
مميزات أداة “FuzzyAI”
1. التشويش الشامل: تقوم “FuzzyAI” باستخدام أساليب هجومية متعددة للكشف عن الثغرات، مثل تجاوز الفلاتر الأخلاقية أو تسريب المعلومات الحساسة.
2. إطار عمل قابل للتوسيع: يمكن للباحثين تطوير اختبارات مخصصة بما يناسب احتياجاتهم الأمنية.
3. التعاون المجتمعي: بفضل طبيعتها مفتوحة المصدر، تتيح الأداة تحسين أساليب الأمان باستمرار من خلال مساهمات مجتمعية.
تصريحات المسؤولين
صرح بيريتس ريجيف، الرئيس التنفيذي لشؤون المنتجات في “سايبر أرك”، قائلاً: “يمثل إطلاق ’FuzzyAI‘ التزامنا بتأمين نماذج الذكاء الاصطناعي ودعم المؤسسات في مواجهة التهديدات الناشئة. تم تطوير الأداة بواسطة مختبرات ’سايبر أرك‘، وأظهرت قدرتها على اختراق النماذج الرائدة في السوق.
