بواسطة: Double Verify
لقد أحدثت أدوات الذكاء الاصطناعي التوليدي مثل ChatGPT وAnthropic ثورة في إنشاء المحتوى، مما جعله أكثر سهولة في الوصول إليه من أي وقت مضى. تتمتع هذه الديمقراطية بالعديد من المزايا، إلا أنها تفرض أيضًا تحديات كبيرة، وخاصة في مجال الإعلان والتسويق.
ارتفاع حالات الاحتيال في الإعلانات داخل التطبيقات على الأجهزة المحمولة
في عام 2023، تضاعفت تحقيقات مختبر مكافحة الاحتيال في DV في الاحتيال على تطبيقات الهاتف المحمول، ونتوقع استمرار النمو. أحد الاتجاهات المزعجة التي اكتشفناها هو انتشار مراجعات التطبيقات التي تولد الذكاء الاصطناعي، والتي تُستخدم غالبًا لخداع المستهلكين لتنزيل تطبيقات ضارة محتملة.
آلية الخداع
غالبًا ما تعمل المراجعات المزيفة على تضخيم مصداقية التطبيق بشكل مصطنع، وإقناع المستخدمين بتثبيته. على سبيل المثال، حددنا تطبيقات بها آلاف التقييمات بخمس نجوم، حيث تم تصميم العديد منها بشكل مقنع بواسطة الذكاء الاصطناعي. في حين أن بعض المراجعات المزيفة خادعة بشكل خفي، إلا أن البعض الآخر يمكن التعرف عليه بسهولة أكبر من خلال العبارات الواضحة النموذجية لأدوات الذكاء الاصطناعي التوليدي، مثل "أنا آسف، ولكن كنموذج لغة للذكاء الاصطناعي ..."
غالبًا ما يجد المستخدمون الذين يقومون بتنزيل هذه التطبيقات أنفسهم تحت قصف هائل من الإعلانات خارج السياق، على غرار المواقع الإلكترونية التي تم إنشاؤها فقط لعرض الإعلانات. يؤدي هذا النهج إلى تعطيل تجربة المستخدم وتقليل قابلية التطبيق للاستمرار على المدى الطويل حيث يقوم المستخدمون المحبطون في النهاية بإلغاء تثبيت هذه التطبيقات الخادعة. ولكن حتى بعد قيام المستخدمين بإلغاء تثبيت التطبيقات، فإنها لا تزال تعرض حركة المرور باستخدام مخططات التزوير.
أظهر التطبيق، الذي تم وصفه سابقًا بأنه "سهل الاستخدام"، مستويات عالية من حركة مرور CycloneBot . يوضح هذا كيف تعمل التطبيقات الاحتيالية كغطاء لحركة مرور CTV المزيفة. بالإضافة إلى ذلك، تساعد المراجعات المزيفة في جعل حركة المرور الاحتيالية تبدو أكثر شرعية.
مثال على تطبيق البث المباشر: أكثر من 50% من التقييمات مزيفة
إن مراجعات التطبيقات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي تحدث في جميع أنواع متاجر التطبيقات، من الأجهزة المحمولة إلى خدمات البث. على سبيل المثال، كشف تحليل DV لتطبيق بث على منصة تلفزيون ذكية شهيرة أن 50% من مراجعاته كانت مزيفة. تم التوصل إلى هذا الاستنتاج باستخدام مزيج من التكنولوجيا الملكية والتحليل البشري لتحديد إشارات التلاعب.
ومن بين المؤشرات الرئيسية للمراجعات المزيفة ما يلي:
• بناء جملة وأسلوب موحدين بين المستخدمين المختلفين
• تنسيق غير عادي، مثل كتابة الحرف الأول من كل كلمة بحرف كبير (تمت ملاحظته في 26 فبراير 2024)
• تقييمات بخمس نجوم بشكل ثابت، حتى للتعليقات الانتقادية مثل "لم نصل إلى هناك بعد"
• كل تقييم مصحوب بمراجعة مكتوبة، على الرغم من أن هذا ليس شرطًا
• المراجعون الذين لديهم نشاط داخل هذا النظام البيئي المحدد فقط
ما وراء الإزعاج: المخاطر الأكبر
لا تقتصر مخاطر التقييمات المزيفة للتطبيقات على الإزعاج فحسب. فبعض التطبيقات الاحتيالية يمكنها اختراق الأجهزة وتشغيل الإعلانات بشكل مستمر، حتى عندما تبدو الأجهزة مغلقة. وقد يؤدي هذا إلى مشكلات خطيرة مثل استنزاف البطارية وارتفاع درجة حرارة الجهاز والاستخدام المفرط للبيانات، مما يتسبب في تكاليف كبيرة للمستخدم. كما قد يكون من الصعب إزالة هذه التطبيقات، حيث يتسبب بعضها في حدوث عطل في الجهاز أو إغلاقه بشكل غير متوقع.
التأثير الأوسع على الإعلان
وتؤثر هذه الممارسات بشكل عميق على منظومة الإعلان. وسواء عانى المستخدمون من تجربة سيئة بسبب الإعلانات المفرطة أو الإعلانات التي يتم تشغيلها دون أن يراها المستخدم في الخلفية، فإن جودة الإعلان وفعاليته تتأثر سلبًا. ويجد المعلنون الذين يتطلعون إلى وضع إعلانات داخل تطبيقات عالية التصنيف صعوبة متزايدة في التنقل في هذا المشهد دون الوقوع فريسة لهذه الاحتيالات، الأمر الذي يتطلب معايير أكثر صرامة ويقظة لتجنب البيئات الاحتيالية.
مع وضع ذلك في الاعتبار، لاحظ مختبر الاحتيال التابع لـ DV زيادة كبيرة في التطبيقات التي تحتوي على تقييمات مزيفة مدعومة بالذكاء الاصطناعي في عام 2024، حيث حدد أكثر من ثلاثة أضعاف العدد مقارنة بنفس الفترة في عام 2023. وقد يؤثر هذا الاتجاه بشكل كبير على المعلنين، وخاصة في مجال البث، حيث تتراوح التكلفة لكل ألف ظهور غالبًا من 35 دولارًا إلى 65 دولارًا.
بالإضافة إلى ذلك، تشير أبحاث DV إلى أن عمليات الاحتيال التي تتم عبر التطبيقات التي تعتمد على الروبوتات تكلف المعلنين غير المحميين ملايين الدولارات سنويًا. ويستغل هؤلاء المحتالون بشكل متزايد الذكاء الاصطناعي لتوليد مراجعات مزيفة، مما يدعم مخططاتهم بشكل أكبر.
البقاء محميًا من الاحتيال عبر التطبيقات
ومع استمرار الذكاء الاصطناعي في إعادة تشكيل الصناعات، أصبحت إمكاناته المزدوجة في الابتكار والاستغلال واضحة في مجال الإعلان. ويتعين على أصحاب المصلحة اتخاذ تدابير متطورة لمكافحة التأثيرات السلبية للمحتوى الذي ينتجه الذكاء الاصطناعي في متاجر التطبيقات. ويشمل هذا تطوير عمليات تحقق أكثر تقدماً والحفاظ على وعي شديد بالتكتيكات المتطورة للمحتالين. ومن خلال الابتكار المستمر والرقابة الصارمة فقط يمكننا ضمان أن فوائد الذكاء الاصطناعي في إنشاء المحتوى تفوق إمكانية إساءة استخدامه.