بواسطة: كاميرون كامب | إسيت Eset
في ظل عمليات الاحتيال المعززة لاستنساخ الصوت المدعوم بالذكاء الاصطناعي، نجلس مع جيك مور من إسيت ESET لمناقشة كيفية إنهاء المكالمات الاحتيالية "hi-fi" - وما يخبئه المستقبل للكشف عن التزييف العميق.
هل ستقع في فخ مكالمة مزيفة من مديرك التنفيذي يطلب منك تحويل الأموال؟ كما اكتشف زميلنا جيك مور، ربما تفعل ذلك. مع تغذية أجهزة الكمبيوتر ذات الدورات الحسابية الاحتياطية بالمزيد والمزيد من بيانات التدريب، تتحسن تقنية التزييف العميق أكثر فأكثر. قم بتزويدهم خطابًا طويلًا للرئيس التنفيذي وسيكتسبون نبرة الصوت والحدة وأنماط الكلام الدقيقة الأخرى التي يمكن أن تجعلهم مقنعين تمامًا في النهاية.
الآن، في الولايات المتحدة على الأقل، هناك مسابقة لكسر الزيف، ونأمل في إيجاد طرق لتزويد الأنظمة الدفاعية بطرق لإحباط أي هجوم ذي صلة. التحدي الذي أطلقته لجنة التجارة الفيدرالية (FTC) جعل المنافسين يقومون باختراق أي تقنية يمكنهم العثور عليها لإحباط التزييف الصوتي والفوز بجائزة قدرها 25000 دولار.
تم استخدام المسابقات في كل شيء بدءًا من تصميمات بدلات الفضاء إلى المركبات ذاتية القيادة إلى تقنيات الطاقة الشمسية، وتهدف الآن إلى تعزيز الاهتمام والداخلين إلى ساحة الدفاع عن التزييف العميق، وتطمح إلى إنشاء سباق لحماية المستهلكين من أضرار استنساخ الصوت باستخدام الذكاء الاصطناعي. بمجرد قيامك بالتسجيل من خلال البوابة، يمكن لأفكارك أن تتنافس مع الأساليب الأخرى للحصول على الذهب.
ما زلت أتساءل عما إذا كان هذا يمكن أن يوقف شخصًا مثل جيك، لذلك سألته.
س: هل ستكون الشركات قادرة على الدفاع عن نفسها ضد هذا التهديد باستخدام التقنيات الحالية والمتاحة على نطاق واسع (وإذا كان الأمر كذلك، فما هي تلك التقنيات)؟
جيك: للأسف، لا أعتقد أن الإجابة تكمن حتى الآن في تقنيات التدابير المضادة لمكافحة هذه المشكلة المتطورة. ما زلنا في مرحلة الطفولة في عصر الذكاء الاصطناعي الجديد هذا، والعديد من الشركات تفكر في فكرة الاستخدامات الجيدة والسيئة والقبيح وقدراتها. يتم تطوير التكنولوجيا باستمرار لمساعدة المحتاجين، ولكن كما هو الحال في أي مرحلة ناشئة من التكنولوجيا الجديدة، فإن الوتيرة السريعة لمثل هذه الحركة لا يمكنها مواكبة التحول في الطلبات غير المشروعة في استخدامها للاحتيال على الأشخاص والشركات.
س: نفس الأسئلة للأفراد، هل تعتقد أن عمليات احتيال المتقاعدين وعمليات الاحتيال الرومانسية وما شابه ذلك؟
جيك: لقد مكّن الذكاء الاصطناعي المحتالين من تنفيذ أعمالهم على نطاقات أكبر بكثير من ذي قبل، مما يعني أن لعبة الأرقام أصبحت أكبر. عندما يتم استهداف عدد أكبر من الأشخاص، تكون المكافآت التي يتم جنيها أكبر بكثير وبدون بذل جهود إضافية حقيقية من قبل المحتالين.
ومع ذلك، يحتاج الأفراد إلى الاستمرار في أن يكونوا أكثر ذكاءً بشأن جميع عمليات الاحتيال - بدءًا من عمليات الاحتيال الكلاسيكية وحتى الاتجاهات الحالية. على وجه الخصوص، مع ظهور استنساخ الصوت والتزييف العميق بدقة مذهلة، يحتاج الناس إلى التوقف عن التفكير في أن الرؤية (والسمع) هي مجرد تصديق . إن البقاء على دراية بإمكانية حدوث مثل هذه الاحتيالات سيوفر الثقة لأولئك المستهدفين للتشكيك في مثل هذه الاتصالات بمزيد من التدقيق ويعلمهم عدم الخوف من التشكيك في أفعالهم.
هناك الكثير من الإرشادات على الإنترنت التي تقدم نصائح توعوية حول عمليات الاحتيال هذه ويحتاج الأشخاص إلى تحديث أنفسهم باستمرار بأحدث المعلومات ليصبحوا محميين ويظلوا كذلك.
س : ما الذي يمكن أن تفعله فرق مكافحة الاحتيال المؤسسية للحد من الهجمات على المستخدمين/العملاء، ومن يجب أن يدفع إذا تعرض الأشخاص للاحتيال؟
جيك: بشكل افتراضي، يجب على فرق مكافحة الاحتيال تقديم التدريب بأي ثمن، والذي يجب أن يكون سنويًا ومخصصًا لجميع أعضاء المؤسسة. تساعد هجمات المحاكاة وألعاب الحرب أيضًا في توصيل الرسالة بطريقة مثيرة للاهتمام وجلب مشكلة خطيرة إلى ديناميكية أكثر إثارة للاهتمام، مما يسمح بالفشل في بيئة آمنة.
بمجرد أن يختبر الناس فكرة الهجوم المعاصر ويشاهدون بشكل مباشر حجم هذه التكنولوجيا الجديدة، فمن المرجح أن يتذكروا النصيحة في وقت وقوع هجوم حقيقي. لا يزال الذكاء الاصطناعي مثيرًا للإعجاب للغاية، لذا فإن رؤية التزييف العميق أثناء العمل في بيئة آمنة يمنح الفرصة لعرض النتائج الخطيرة المحتملة التي قد تنتجها أيضًا دون خلق الكثير من عوامل الخوف.
س: من الواضح أن هذه لعبة القط والفأر، فمن سيفوز؟
جيك: منذ البداية، كانت هناك مطاردة بين "رجال الشرطة واللصوص" حيث يكون اللصوص عادةً على بعد خطوتين. ومع ذلك، مع تحسن التكنولوجيا، يجب علينا التأكد من أننا لن نتخلف عن الركب ونمنح ميزة أكبر للمحتالين.
ومن المهم أن يتم تزويد الأشخاص بالأدوات والمعرفة المناسبة لمحاربة هذه الضربات الحتمية بشكل أفضل، حتى لا يفوز المحتالون دائمًا. من خلال مواكبة أحدث نواقل الهجمات وعمليات الاحتيال المتطورة، يتمتع الأفراد والشركات بأفضل فرصة للدفاع ضد هذه الموجة الجديدة من الهجمات التكنولوجية.
هناك شيء واحد مؤكد: لم يعد هذا تهديدًا نظريًا. توقع أن يكون عام 2024 وما بعده هو الوقت الذي يجد فيه المحتالون طرقًا آلية جديدة لشن هجمات مدعومة بالصوت بسرعة كبيرة، خاصة ردًا على الأحداث الكارثية حيث "يطلب" منك بعض المسؤولين الموثوقين القيام بشيء ما. سيبدو الأمر برمته مقنعًا، مع جو من الإلحاح، ومع ما يبدو وكأنه مصادقة سمعية متعددة العوامل، ولكن لا يزال من الممكن أن تتعرض للاحتيال، حتى لو "سمعت شخصيًا من مسؤول".
شكرا لك على وقتك، جيك.