في هذا العام، لقد تصاعد حجم هجمات الهوية التي ينشئها الذكاء الاصطناعي إلى مستوى أصبح موضوع اهتمام المستهلكين والمنظمات وحتى قادة العالم. تقف القياسات الحيوية كقوة تحويلية في إعادة تشكيل كيفية تفاعل الأفراد مع الأنظمة الرقمية وكيفية حماية المؤسسات للمعلومات الحساسة. مع اقتراب عام 2024، يستعد مشهد الهوية الرقمية لتحقيق تقدم كبير، مع ابتكارات تهدف إلى إعادة تعريف التحقق، ورفع معايير الأمان، وتحسين تجارب المستخدم.
1. سيتم حظر مكالمات الفيديو عن بعد للتحقق من الهوية
يتضمن التحقق من مكالمة الفيديو مكالمة فيديو فردية بين المستخدم والمشغل المدرب. يُطلب من المستخدم حمل وثيقة هوية، ويقوم عامل الهاتف بمطابقتها مع وجهه. ومع ذلك، فقد ثبت أن التحقق من مكالمة الفيديو لا يوفر سوى القليل من الضمانات بأن المستخدم النهائي هو شخص "حي" وليس صورًا اصطناعية منتجة بواسطة الذكاء الاصطناعي يتم تركيبها بشكل مقنع على وجه جهة التهديد.
على سبيل المثال، في عام 2022، تمكن الباحثون في Chaos Computer Club من التحايل على تقنية التحقق من مكالمات الفيديو باستخدام الذكاء الاصطناعي التوليدي ومعرف مزور . وأظهرت الحالة كيف أن هذه التكنولوجيا، والمشغلين البشريين الذين تعتمد عليهم، معرضون بشدة لهجمات الصور الاصطناعية. وقد حذر المكتب الفيدرالي الألماني لأمن المعلومات منذ ذلك الحين من التحقق عبر مكالمات الفيديو بسبب تعرضه لهذه الهجمات.
إذا لم تتمكن برامج الهوية الرقمية من الدفاع ضد تهديد التزييف العميق عند الإعداد والمصادقة، فسيتم استغلالها لأغراض إجرامية، مثل الاحتيال في الدفع، وغسل الأموال، وتمويل الإرهاب. على هذا النحو، سنرى تحركات من قبل منظمي الخدمات المالية لحظر طرق التحقق من مكالمات الفيديو مع توجيه لاختيار طرق أكثر موثوقية تعتمد على الهجين الذي يجمع بين المطابقة الآلية للذكاء الاصطناعي واكتشاف الحيوية مع الإشراف البشري على عملية التعلم الآلي.
2. سوف تتضاعف انتهاكات بيانات الشركات ثلاث مرات بسبب الهجمات الناجحة التي ينشئها الذكاء الاصطناعي
منذ عدة سنوات، اعتمدت المؤسسات والأفراد على اكتشاف رسائل البريد الإلكتروني التصيدية من خلال الأخطاء الإملائية، والأخطاء النحوية. لقد مر ذلك الوقت. هذه هي جودة Chat GPT التي يمكن للجهات الفاعلة في مجال التهديد الآن استخدامها لإنشاء هجمات تصيد احتيالي عالية الجودة في اتصالات مقنعة للغاية دون أي أدلة مشبوهة. وبالتالي، سيشهد عام 2024 زيادة حادة في جودة وحجم هجمات التصيد الاحتيالي التي ينشئها الذكاء الاصطناعي. سيصبح التدريب على الوعي الأمني أداة زائدة عن الحاجة وستضطر المؤسسات إلى البحث عن طرق بديلة وأكثر موثوقية للتحقق بشكل موثوق من المستخدمين الداخليين والخارجيين لمنصاتهم.
3. ستنخفض تكلفة الموارد اللازمة لتركيب الكلام والفيديو الخاصة بالجريمة
تعمل الجريمة كخدمة وتوافر الأدوات عبر الإنترنت على تسريع تطور مشهد التهديدات، مما يمكّن المجرمين من شن هجمات متقدمة بشكل أسرع وعلى نطاق أوسع. إذا نجحت الهجمات، فإنها تتصاعد بسرعة من حيث الحجم والتكرار، مما يؤدي إلى تفاقم خطر حدوث أضرار جسيمة
تستخدم الجهات الفاعلة السيئة تقنية الذكاء الاصطناعي المتطورة لإنشاء وشن هجمات لاستغلال الأنظمة الأمنية للمؤسسات والاحتيال على الأفراد. وقد شهد iProov مؤشرات مماثلة على اكتساب المجرمين ذوي المهارات المنخفضة القدرة على إنشاء وشن هجمات الصور الاصطناعية المتقدمة. إذ لوحظ ظهور ونمو سريع لمقايضات وجه الفيديو الجديدة. تعد عمليات تبديل الوجه أحد أشكال الصور الاصطناعية حيث يقوم ممثل التهديد بتغيير أكثر من وجه واحد لإنشاء مخرج فيديو مزيف جديد ثلاثي الأبعاد.
إن تكلفة الموارد اللازمة لشن الهجمات آخذة في الانخفاض، ونتوقع تمامًا أن تنخفض أدوات مكافحة الجريمة كخدمة إلى أقل من 100 دولار.
4. قدرة الذكاء الاصطناعي على نشر المعلومات السياسية المضللة سوف تجعل التأليف الموثق للصور والمحتوى المكتوب أداة مطلوبة قانونًا
سيكون هناك عدد كبير من مقاطع الفيديو المزيفة العميقة التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي سيتم استخدامها لإقناع الناخبين بينما نتجه نحو الانتخابات. ولمواجهة ذلك، ستكون هناك تحركات واسعة النطاق من قبل شركات التكنولوجيا لتوفير طرق للأشخاص للتحقق من صحة الصور التي يقومون بتحميلها. على سبيل المثال، الحلول التي تمكن الأشخاص من وضع علامة مائية على الصور وتوقيعها عند إنشائها أو تعديلها.
ومن المرجح أن يشهد عام 2024 العديد من المحاولات في هذا المجال لأن استخدام التزييف العميق منتشر على نطاق واسع. سيكون من المتطلبات الأساسية أن أي محتوى يستخدم الصور يجب أن يقدم طريقة ما لضمان أصالتها، والفشل في القيام بذلك سيؤدي إلى انخفاض قيمة تلك الصور.
5. ستؤدي مكالمة Zoom التي تم إنشاؤها بواسطة الذكاء الاصطناعي إلى أول عملية احتيال للرئيس التنفيذي بقيمة مليار دولار
يستهدف الاحتيال على الرؤساء التنفيذيين ما لا يقل عن 400 شركة يوميًا ويشكل تهديدًا كبيرًا للمنظمات في جميع أنحاء العالم. في هذا النوع من الجرائم، يتظاهر المهاجمون بأنهم كبار المسؤولين التنفيذيين في الشركة ويحاولون خداع الموظفين لتحويل الأموال أو الكشف عن معلومات حساسة أو الشروع في أنشطة احتيالية أخرى. غالبًا ما تتضمن هجمات هندسة اجتماعية معقدة مما يجعل من الصعب اكتشافها. يتم الآن استخدام أدوات الذكاء الاصطناعي التوليدية على نطاق واسع من قبل المحتالين لإنشاء صور مزيفة عميقة لتقليد شخص ما. يمكن للجهات الفاعلة السيئة الآن إنشاء صوت وصور مقنعة تم إنشاؤها بواسطة الذكاء الاصطناعي ونشرها عبر الأنظمة الأساسية بما في ذلك Zoom وMicrosoft Teams وSlack. وبدون أدوات مراقبة وكشف متطورة، يكاد يكون من المستحيل اكتشاف هذا النوع من الصور الاصطناعية. على هذا النحو، نتوقع تمامًا أن نرى مكالمة Zoom التي تم إنشاؤها بواسطة الذكاء الاصطناعي تؤدي إلى أول عملية احتيال لرئيس تنفيذي بقيمة مليار دولار في عام 2024.
المصدر: بزنيس واير