بواسطة: رافي لاكشمانان | أخبار الهاكر
قالت شركة OpenAI، الأربعاء، إنها عطلت أكثر من 20 عملية وشبكة خادعة في جميع أنحاء العالم حاولت استخدام منصتها لأغراض خبيثة منذ بداية العام.
شمل هذا النشاط تصحيح أخطاء البرامج الضارة، وكتابة مقالات لمواقع الويب، وإنشاء السير الذاتية لحسابات وسائل التواصل الاجتماعي، وإنشاء صور شخصية تم إنشاؤها بواسطة الذكاء الاصطناعي للحسابات المزيفة على X.
وقالت شركة الذكاء الاصطناعي: "يواصل الجهات الفاعلة في مجال التهديد التطور والتجريب باستخدام نماذجنا، لكننا لم نر أدلة على أن هذا يؤدي إلى اختراقات ذات مغزى في قدرتهم على إنشاء برامج ضارة جديدة إلى حد كبير أو بناء جماهير فيروسية" .
وقالت أيضًا إنها عطلت النشاط الذي أنتج محتوى على وسائل التواصل الاجتماعي يتعلق بالانتخابات في الولايات المتحدة ورواندا، وبدرجة أقل في الهند والاتحاد الأوروبي، وأن أيًا من هذه الشبكات لم تجتذب تفاعلًا فيروسيًا أو جمهورًا مستدامًا.
وشمل ذلك الجهود التي بذلتها شركة تجارية إسرائيلية تدعى STOIC (وتسمى أيضًا Zero Zeno) والتي أثارت تعليقات على وسائل التواصل الاجتماعي حول الانتخابات الهندية، كما تم الكشف عنها سابقًا من قبل Meta وOpenAI في وقت سابق من هذا الشهر.
بعض العمليات السيبرانية التي سلطت OpenAI الضوء عليها هي كما يلي:
SweetSpecter ، وهو عدو مشتبه به مقره الصين استخدم نماذج الذكاء الاصطناعي الخاصة به للاستطلاع المستند إلى LLM، وبحث الثغرات الأمنية، ودعم البرامج النصية، والتهرب من اكتشاف الشذوذ، والتطوير. كما لوحظ أنه أجرى محاولات تصيد فاشلة ضد موظفي OpenAI لتقديم SugarGh0st RAT.
Cyber Av3ngers ،وهي مجموعة تابعة للحرس الثوري الإيراني (IRGC) والتي استخدمت نماذج الذكاء الاصطناعي الخاصة بها لإجراء أبحاث في وحدات التحكم المنطقية القابلة للبرمجة.
Storm-0817، وهي جهة تهديد إيرانية استخدمت نماذج الذكاء الاصطناعي الخاصة بها لتصحيح أخطاء برامج التجسس على نظام أندرويد القادرة على جمع معلومات حساسة، وأدوات لكشط ملفات تعريف Instagram عبر Selenium، وترجمة ملفات تعريف LinkedIn إلى اللغة الفارسية.
وفي مكان آخر، قالت الشركة إنها اتخذت خطوات لمنع عدة مجموعات من الحسابات، بما في ذلك اثنتان مرتبطتان بعمليات التأثير التي تحمل الاسم الرمزي A2Z وStop News، والتي أنتجت محتوى باللغتين الإنجليزية والفرنسية للنشر لاحقًا على عدد من المواقع الإلكترونية وحسابات وسائل التواصل الاجتماعي عبر منصات مختلفة.
وقال الباحثان بن نيمو ومايكل فلوسمان: "كانت [ستوب نيوز] غزيرة الاستخدام بشكل غير عادي للصور. وكانت العديد من مقالاتها وتغريداتها على شبكة الإنترنت مصحوبة بصور تم إنشاؤها باستخدام DALL·E. وكانت هذه الصور غالبًا بأسلوب الرسوم المتحركة، واستخدمت لوحات ألوان زاهية أو نغمات درامية لجذب الانتباه".
تم العثور على شبكتين أخريين تم تحديدهما بواسطة OpenAI Bet Bot و Corrupt Comment لاستخدام واجهة برمجة التطبيقات الخاصة بـ OpenAI لإنشاء محادثات مع المستخدمين على X وإرسال روابط لهم إلى مواقع المقامرة، بالإضافة إلى تصنيع التعليقات التي تم نشرها بعد ذلك على X، على التوالي.
ويأتي الكشف عن هذا بعد شهرين تقريبًا من حظر OpenAI لمجموعة من الحسابات المرتبطة بعملية التأثير الإيرانية السرية المسماة Storm-2035 والتي استخدمت ChatGPT لتوليد محتوى ركز، من بين أمور أخرى، على الانتخابات الرئاسية الأمريكية المقبلة.
وكتب نيمو وفلوسمان: "غالبًا ما يستخدم الجهات الفاعلة في مجال التهديد نماذجنا لأداء مهام في مرحلة وسيطة محددة من النشاط - بعد أن حصلوا على أدوات أساسية مثل الوصول إلى الإنترنت وعناوين البريد الإلكتروني وحسابات وسائل التواصل الاجتماعي، ولكن قبل نشر المنتجات "النهائية" مثل منشورات وسائل التواصل الاجتماعي أو البرامج الضارة عبر الإنترنت عبر مجموعة من قنوات التوزيع".
وعلى الرغم من إساءة استخدام الذكاء الاصطناعي التوليدي في عمليات الاحتيال والتزييف العميق، قالت شركة الأمن السيبراني سوفوس، في تقرير نُشر الأسبوع الماضي، إن التكنولوجيا يمكن أيضًا إساءة استخدامها لنشر معلومات مضللة مخصصة عن طريق رسائل البريد الإلكتروني المستهدفة.
وهذا يستلزم إساءة استخدام نماذج الذكاء الاصطناعي لإنشاء مواقع ويب للحملات السياسية، وشخصيات يتم إنشاؤها بواسطة الذكاء الاصطناعي عبر الطيف السياسي، ورسائل البريد الإلكتروني التي تستهدفهم على وجه التحديد بناءً على نقاط الحملة، وبالتالي السماح بمستوى جديد من الأتمتة التي تجعل من الممكن نشر المعلومات المضللة على نطاق واسع.
وقال الباحثان بن جلمان وأدارش كياديج : "هذا يعني أن المستخدم قد ينتج أي شيء بدءًا من المواد الدعائية الحميدة وحتى المعلومات المضللة المتعمدة والتهديدات الخبيثة مع إعادة التكوين البسيطة".
"من الممكن ربط أي حركة سياسية حقيقية أو مرشح بدعم أي سياسة، حتى لو لم يتفقوا معها. إن المعلومات المضللة المتعمدة مثل هذه قد تدفع الناس إلى التحالف مع مرشح لا يدعمونه أو الاختلاف مع مرشح اعتقدوا أنهم يحبونه".