اكتشف الباحثون لدى شركة بالو ألتو نتوركس العشرات من حملات الاحتيال القائمة على استخدام مقاطع فيديو بتقنية التزييف العميق والتي تعرض أشباه شخصيات عامة مشهورة تضم رؤساء تنفيذيين ومذيعي أخبار ومسؤولين حكوميين رفيعي المستوى. وجرى تنظيم حملات الاحتيال هذه بالعديد من اللغات مثل الإنجليزية والإسبانية والفرنسية والإيطالية والتركية والتشيكية والروسية، حيث استهدفت كل منها فئة من الضحايا المحتملين في دول مختلفة حول العالم.
ونظراً للتشابه الهيكلي والتكتيكي لهذه الهجمات، فمن المرجح أن يكون مصدر العديد منها جهة تخريبية واحدة. كما عملت هذه الجهة التخريبية على استخدام مقاطع فيديو بتقنية التزييف العميق من أجل نشر برامج استثمار ومِنَح حكومية زائفة.
كما اكتشفت بالو ألتو نتوركس خلال شهر يونيو 2024 استخدام المئات من أسماء النطاقات (domains) للترويج لهذه الحملات، حيث تم الدخول إلى كل من أسماء النطاقات هذه نحو 114,000 مرة وسطياً على الصعيد العالمي منذ نشرها.
وكانت البداية مع الحملة التي تروج لبرنامج استثماري يحمل اسم الذكاء الاصطناعي الكمومي (Quantum AI)، حيث قامت بالو ألتو نتوركس بدراسة البنية التحتية المستخدمة في هذه الحملة بهدف رصد ومتابعة انتشارها بمرور الوقت. واكتشفت الشركة من خلال هذا التحقيق في البنية التحتية، العديد من حملات التزييف العميق الإضافية التي ركزت على موضوعات مختلفة تماماً ابتكرتها نفس الجهة التخريبية وروجت لها، حيث استخدمت حملات الاحتيال الإضافية هذه لغات مختلفة وصوراً لشخصيات عامة مختلفة ما يشير إلى استهداف كل حملة لشريحة مختلفة من الجمهور.
وعلى الرغم من استخدام الذكاء الاصطناعي التوليدي في هذه الحملات فإن أساليب الاستقصاء التقليدية لا زالت مفيدة في تحديد البنى التحتية المستضيفة التي تستخدمها الجهات التخريبية. ومع انتشار استخدام تقنيات التزييف العميق لأغراض خبيثة من قبل الجهات التخريبية الفاعلة، فمن الأهمية بمكان تعزيز جهود الجهات الدفاعية للكشف عن هذه الأنواع من الهجمات ومنعها بشكل استباقي.
التزييف العميق كخدمة
كما اكتشف الباحثون في شركة بالو ألتو نتوركس أيضاً قيام الجهات التخريبية ببيع وتأجير أدوات التزييف العميق وتوفير حزم من الخدمات على امتداد المنتديات وقنوات المحادثة على وسائل التواصل الاجتماعي ومنصات المراسلة الفورية. وتقدم هذه الأدوات والخدمات القدرات اللازمة لإنشاء محتوى مخادع وخبيث بما في ذلك مقاطع الصوت والفيديو والصور. وتتسم المنظومة المحيطة بإنشاء أدوات التزييف العميق بنشاطها وحيويتها، حيث تقوم الجهات التخريبية ببيع مجموعات متنوعة من الخيارات بدءاً من أدوات تبديل الوجوه وصولاً إلى مقاطع فيديو التزييف العميق.
وتتراوح تكلفة أدوات تبديل الوجوه مثل (Swapface) من كونها مجانية لتصل إلى 249 دولار أمريكي شهرياً. وتقوم الجهات التي تشتري هذه الأدوات بإساءة استخدامها حيث تنشر مقاطع الفيديو التي يتم إنشاؤها باستخدام هذه الأدوات على المنصات المختلفة ومواقع التواصل الاجتماعي. وتوفر أداة (Swapface) مرشحات (فلاتر) سهلة الاستخدام وإمكانية التبديل الآني لصورة الوجه ما يتيح للمستخدمين تعديل أو استبدال الوجوه في مقاطع الفيديو.
وتشمل التطبيقات والاستخدامات الخبيثة لأدوات وخدمات التزييف العميق كلاً من الأنشطة التالية:
- تسهيل إنشاء هويات مزيفة.
- ارتكاب جرائم احتيال مصرفية.
- تنظيم حملات تضليل.
- تخطى حواجز التحقق من هوية العميل.
- تنفيذ سرقات العملات المشفرة.
وتتيح هذه الخدمات التحكم بالمواد المصورة والصوتية بدقة مثيرة للقلق ما يطرح مخاوف أخلاقية وأمنية جدية. وتتباين تكلفة إنشاء مقاطع الفيديو بالتزييف العميق بشكل كبير إذ تتراوح ما بين 60-500 دولار أمريكي ما يعكس مدى التعقيد والجودة المطلوبة للتزييف.
