اكتشف خبراء مركز أبحاث الذكاء الاصطناعي في كاسبرسكي أن المجرمين السيبرانيين يزيدون من استخدامهم النماذج اللغوية الكبيرة (LLMs) لتوليد محتوى هجمات التصيد الاحتيالي والخداع واسعة النطاق. بينما تحاول مصادر التهديد تصميم مواقع إلكترونية احتيالية بأعداد كبيرة، فهي غالباً ما تترك آثاراً معينة، مثل العبارات الخاصة بالذكاء الاصطناعي، والتي تميز هذه المواقع نظيرتها المُصممة يدوياً. وفي الوقت الحالي، يبدو أن معظم أمثلة التصيد الاحتيالي التي رصدتها كاسبرسكي تستهدف مستخدمي بورصات ومحافظ العملات المشفرة.
قام خبراء كاسبرسكي بتحليل عينة من الموارد، وتحديد الخصائص الرئيسية التي تساعد في التمييز والكشف عن حالات استخدام الذكاء الاصطناعي لتوليد محتوى وبناء مواقع إلكترونية كاملة للتصيد والاحتيال.
تتمثل واحدة من العلامات البارزة للنصوص المولدة بواسطة النماذج اللغوية الكبيرة في إعلان إخلاء المسؤولية ورفض تنفيذ الأوامر لروبوتات المحادثة أحياناً، ويشمل ذلك عبارات مثل «كنموذج لغوي مدعوم بالذكاء الاصطناعي». على سبيل المثال، تحتوي صفحتان تصيديتان تستهدفان مستخدمي عملة KuCoin على عبارات مشابهة.
يظهر مؤشر مميز آخر لاستخدام النماذج اللغوية الكبيرة على هيئة جمل استدراكية مثل: «رغم عدم قدرتي على فعل ما تريده بالضبط، يمكنني تجربة شيء مماثل». وفي أمثلة أخرى تستهدف مستخدمي نموذجي Gemini وExodus، ترفض النماذج اللغوية الكبيرة تقديم تعليمات مفصلة لتسجيل الدخول.
قال فلاديسلاف توشكانوف، مدير مجموعة تطوير الأبحاث لدى كاسبرسكي: «بواسطة النماذج اللغوية الكبيرة، يمكن للمهاجمين أتمتة توليد عشرات أو حتى مئات صفحات الويب التصيدية والخادعة ذات المحتوى الفريد وعالي الجودة. وبينما كان ذلك يتطلب جهداً يدوياً في الماضي، يمكن للذكاء الاصطناعي الآن مساعدة مصادر التهديد على توليد هذا النوع من المحتوى تلقائياً.»
يمكن استخدام النماذج اللغوية الكبيرة لتوليد كتل نصية، بل وصفحات ويب كاملة، مع ظهور آثارها في النص نفسه وفي مناطق مثل وسوم البيانات الوصفية، وهي مقتطفات نصية تصف محتوى صفحة الويب وتظهر في كود HTML الخاص بها.
هناك مؤشرات أخرى لاستخدام الذكاء الاصطناعي في تصميم مواقع احتيالية. على سبيل المثال، تميل بعض النماذج لاستخدام عبارات محددة مثل «التعمق»، و«في المشهد المتطور باستمرار»، و«في العالم المتغير باستمرار». ورغم أن هذه المصطلحات لا تُعد مؤشرات قوية لتوليد المحتوى بواسطة الذكاء الاصطناعي، يمكن اعتبارها كعلامات على ذلك.
تشمل الميزات الأخرى للنص المولد بواسطة النماذج اللغوية الكبيرة الإشارة للمدى الذي تمتد إليه معرفة النموذج بالعالم. وعادة ما تظهر النماذج هذه القيود باستخدام عبارات مثل «وفق تحديثي الأخير في شهر يناير 2023».
غالباً ما يُدمج النص المولد بواسطة النماذج اللغوية الكبيرة مع تكتيكات تجعل اكتشاف الصفحات التصيدية أكثر تعقيداً لأدوات الأمن السيبراني. فعلى سبيل المثال، قد يستخدم المهاجمون رموز معيار Unicode غير القياسية، مثل تلك المتضمنة لعلامات تشكيل أو المستمدة من الترميز الرياضي، لإخفاء النص ومنع المطابقة بواسطة أنظمة الكشف القائمة على قواعد.
أضاف توشكانوف: «تشهد النماذج اللغوية الكبيرة تحسناً مستمراً، ويستكشف المجرمون السيبرانيون طرقاً لتطبيق هذه التكنولوجيا لأغراض خبيثة. ومع ذلك، توفر الأخطاء رؤى بشأن استخدامهم لهذه الأدوات، وخاصةً فيما يتعلق بالمدى المتزايد للأتمتة. ومع التطورات المستقبلية، قد يصبح التمييز بين المحتوى المولد بواسطة الذكاء الاصطناعي والمحتوى المولد بواسطة الإنسان أكثر صعوبةً، مما يزيد الحاجة لاستخدام حلول أمنية متقدمة تعمل على تحليل المعلومات النصية، والبيانات الوصفية، وغيرها من مؤشرات الاحتيال الأخرى.»
