كشفت شركة Copyleaks المتخصصة في التحقق من المحتوى عن انتشار حملات احتيالية تستخدم مقاطع فيديو مُولدة بالذكاء الاصطناعي لعدد من المشاهير العالميين، من بينهم تايلور سويفت وريهانا، بهدف الترويج لخدمات مشبوهة عبر منصة تيك توك.
وتعتمد هذه الحملات على إنتاج فيديوهات تبدو واقعية للغاية، تُظهر المشاهير في سياقات مقابلات أو ظهور إعلامي مثل السجادة الحمراء أو البودكاست أو البرامج الحوارية، مع تعديل مقاطع حقيقية باستخدام تقنيات الذكاء الاصطناعي.
عروض وهمية وبرامج أرباح مزيفة
تشير التقارير إلى أن العديد من هذه الإعلانات تروّج لبرامج مكافآت وهمية، تدّعي إمكانية تحقيق أرباح مالية مقابل مشاهدة محتوى على تيك توك أو تقديم تقييمات وتعليقات.
ورغم ظهور العلامة التجارية الرسمية لتيك توك في بعض هذه الإعلانات، إلا أنها تقود المستخدمين في النهاية إلى مواقع وخدمات خارجية تطلب بيانات شخصية، ما يثير مخاوف متزايدة بشأن الاحتيال الإلكتروني.
استغلال أسماء المشاهير لزيادة المصداقية
أحد أبرز أساليب هذه الحملات هو استخدام صور ومقاطع معدلة لمشاهير عالميين لإضفاء مصداقية زائفة على العروض الترويجية.
وفي أحد الأمثلة، ظهر نموذج رقمي (أفاتار) يبدو شبيهاً بالمغنية تايلور سويفت وهو يحث المستخدمين على التفاعل مع هذه العروض، في محاولة لاستدراجهم نحو التسجيل أو إدخال بياناتهم الشخصية.
مخاوف متزايدة من المحتوى المزيف
تعكس هذه الظاهرة تصاعد التحديات المرتبطة باستخدام الذكاء الاصطناعي في إنشاء محتوى مزيف يصعب تمييزه عن الحقيقي، خاصة على منصات التواصل الاجتماعي.
كما تثير هذه الحملات مخاوف بشأن:
- انتهاك خصوصية المستخدمين
- سرقة البيانات الشخصية
- تضليل المستخدمين عبر محتوى مزيف
- استغلال الثقة في المشاهير والمنصات الرقمية
الحاجة إلى تعزيز الرقابة الرقمية
تسلط هذه التطورات الضوء على أهمية تعزيز أدوات التحقق من المحتوى على منصات التواصل الاجتماعي، إلى جانب رفع وعي المستخدمين بمخاطر الروابط والإعلانات غير الموثوقة.
كما تؤكد على ضرورة تطوير آليات أكثر صرامة لرصد المحتوى المولد بالذكاء الاصطناعي، خاصة في ظل الانتشار السريع لهذه التقنيات وسهولة استخدامها في عمليات الاحتيال الرقمي.
