على الرغم من القلق بشأن التطبيقات غير المشروعة لـ ChatGPT والنماذج المماثلة، فإن استكشاف Sophos X-Ops لمنتديات الجرائم الإلكترونية يشير إلى أن العديد من الجهات الفاعلة في مجال التهديد لا تزال متشككة - وتتصارع مع نفس القضايا والمشاكل مثل بقيتنا.

أعقب قدر كبير من التغطية الإعلامية الأخبار التي تفيد بأن نماذج اللغات الكبيرة (LLMs) المخصصة للاستخدام من قبل مجرمي الإنترنت - بما في ذلك WormGPT و FraudGPT - كانت متاحة للبيع في المنتديات السرية. أعرب العديد من المعلقين عن مخاوفهم من أن مثل هذه النماذج ستمكن الجهات الفاعلة في مجال التهديد من إنشاء " برامج ضارة متحولة " وكانت جزءًا من " جنون " الأنشطة ذات الصلة في المنتديات السرية.

لا شك أن جانب الاستخدام المزدوج لـ LLMs يشكل مصدر قلق، وليس هناك شك في أن الجهات الفاعلة في مجال التهديد ستسعى إلى الاستفادة منها لتحقيق أهدافها الخاصة. تعتبر أدوات مثل WormGPT مؤشرًا مبكرًا على ذلك (على الرغم من أن مطوري WormGPT قد أغلقوا المشروع الآن، ظاهريًا لأنهم أصبحوا منزعجين من مقدار الاهتمام الإعلامي الذي تلقوه). الأمر الأقل وضوحًا هو كيف تفكر الجهات الفاعلة في مجال التهديد بشكل عام في مثل هذه الأدوات، وما الذي يستخدمونها فعليًا من أجله، بما يتجاوز بعض الحوادث التي تم الإبلاغ عنها علنًا .

قررت Sophos X-Ops التحقيق في المناقشات والآراء المتعلقة بـ LLM في مجموعة مختارة من المنتديات الإجرامية، للحصول على فهم أفضل للوضع الحالي، واستكشاف ما يفكر به ممثلو التهديد أنفسهم فعليًا حول الفرص والمخاطر التي يتم طرحها بواسطة LLMs. ويحثت على Sophos في أربعة منتديات وأسواق بارزة، ونبحث على وجه التحديد في الأغراض التي تستخدم الجهات الفاعلة في مجال التهديد برامج LLM من أجلها؛ تصوراتهم عنهم؛ وأفكارهم حول أدوات مثل WormGPT.

ملخص موجز للنتائج التي توصلت Sophos إليها:

• لقد وجدت العديد من مشتقات GPT التي تدعي أنها تقدم إمكانات مشابهة لـ WormGPT وFraudGPT - بما في ذلك EvilGPT وDarkGPT وPentesterGPT وXXXGPT. ومع ذلك، لاحظنا أيضًا وجود شكوك حول بعض هذه الأمور، بما في ذلك الادعاءات بأنها عمليات احتيال ( لم يسمع بها من قبل في المنتديات الإجرامية ).
• ‏بشكل عام، هناك الكثير من الشكوك حول أدوات مثل ChatGPT - بما في ذلك الحجج القائلة بأنها مبالغ فيها، وزائدة عن الحاجة، وغير مناسبة لإنشاء برامج ضارة.
• ‏لدى الجهات الفاعلة في مجال التهديد أيضًا مخاوف خاصة بالجرائم الإلكترونية بشأن التعليمات البرمجية التي تم إنشاؤها بواسطة LLM ، بما في ذلك المخاوف الأمنية التشغيلية واكتشاف AV/EDR.
• ‏تركز الكثير من المنشورات على عمليات كسر الحماية (والتي تظهر أيضًا بشكل منتظم على وسائل التواصل الاجتماعي والمدونات الشرعية) وحسابات ChatGPT المعرضة للخطر.
• ‏تظل تطبيقات العالم الحقيقي طموحة في معظمها ، وتقتصر بشكل عام على هجمات الهندسة الاجتماعية، أو المهام العرضية المتعلقة بالأمان.
• ‏لقد وجدنا أمثلة قليلة فقط على الجهات الفاعلة في مجال التهديد التي تستخدم LLMs لإنشاء برامج ضارة وأدوات هجوم ، وكان ذلك فقط في سياق إثبات المفهوم
ومع ذلك، يستخدمه الآخرون بفعالية في أعمال أخرى ، مثل مهام البرمجة العادية.
من غير المستغرب أن يهتم "أطفال النصوص البرمجية" غير المهرة باستخدام GPTs لإنشاء برامج ضارة، ولكنهم - وليس من المستغرب مرة أخرى - غالبًا ما يكونون غير قادرين على تجاوز القيود الفورية، أو فهم الأخطاء في التعليمات البرمجية الناتجة.
تستخدم بعض الجهات الفاعلة في مجال التهديد LLMs لتعزيز المنتديات التي يترددون عليها

خاتمة
تنقسم الجهات الفاعلة في مجال التهديد عندما يتعلق الأمر بمواقفهم تجاه الذكاء الاصطناعي التوليدي. البعض - مزيج من المستخدمين الأكفاء وأطفال البرامج النصية - متحمسون للتبني المبكر، ويشاركون بسهولة عمليات كسر الحماية والبرامج الضارة والأدوات التي تنتجها LLM، حتى لو لم تكن النتائج دائمًا مثيرة للإعجاب بشكل خاص. أما المستخدمون الآخرون فهم أكثر حذرًا، ولديهم اهتمامات محددة (الأمن التشغيلي، والدقة، والفعالية، والكشف) ومخاوف عامة (أخلاقية وفلسفية). في هذه المجموعة الأخيرة، البعض منهم متشككون مؤكدون (وأحيانًا معادون)، في حين أن البعض الآخر أكثر ترددًا.

لقد وجدنا أدلة قليلة على اعتراف الجهات الفاعلة في مجال التهديد باستخدام الذكاء الاصطناعي في الهجمات الواقعية، وهذا لا يعني أن هذا لا يحدث . لكن معظم النشاط الذي لاحظناه في المنتديات كان يقتصر على تبادل الأفكار وإثبات المفاهيم والأفكار. بعض مستخدمي المنتدى، بعد أن قرروا أن LLMs لم ينضجوا بعد (أو آمنين) بما يكفي للمساعدة في الهجمات، يستخدمونها بدلاً من ذلك لأغراض أخرى، مثل مهام البرمجة الأساسية أو تحسينات المنتدى.

وفي الوقت نفسه، في الخلفية، يسعى الانتهازيون والمحتالون المحتملون إلى تحقيق ربح سريع من هذه الصناعة المتنامية - سواء كان ذلك من خلال مطالبات البيع والخدمات المشابهة لـ GPT، أو الحسابات المساومة.

على العموم - على الأقل في المنتديات التي درسناها لهذا البحث، وبما يتعارض مع توقعاتنا - لا يبدو أن النكاذج اللغوية (LLM) موضوعًا كبيرًا للنقاش، أو سوقًا نشطًا بشكل خاص مقارنة بالمنتجات والخدمات الأخرى. تستمر معظم الجهات الفاعلة في مجال التهديد في ممارسة أعمالها اليومية المعتادة، بينما تنغمس فقط في بعض الأحيان في الذكاء الاصطناعي التوليدي. ومع ذلك، فإن عدد الخدمات المرتبطة بـ GPT التي وجدناها يشير إلى أن هذا سوق متنامٍ، ومن الممكن أن يبدأ المزيد والمزيد من الجهات الفاعلة في مجال التهديد في دمج المكونات التي تدعم LLM في خدمات أخرى أيضًا.

في نهاية المطاف، يكشف بحثنا أن العديد من الجهات الفاعلة في مجال التهديد تتصارع مع نفس المخاوف بشأن النماذج اللغوية مثلنا جميعًا، بما في ذلك المخاوف بشأن الدقة والخصوصية وقابلية التطبيق. ولكن لديهم أيضا مخاوف خاصة بالجرائم السيبرانية، والتي قد تمنعهم، على الأقل في الوقت الحالي، من تبني التكنولوجيا على نطاق أوسع.

في حين أن هذا القلق لا يمنع جميع مجرمي الإنترنت من استخدام LLMs، إلا أن العديد منهم يتبنون موقف "الانتظار والترقب". وكما خلصت تريند مايكرو في تقريرها، فإن الذكاء الاصطناعي لا يزال في بداياته في عالم الجريمة السري. في الوقت الحالي، يبدو أن الجهات الفاعلة في مجال التهديد تفضل التجربة والمناقشة واللعب، ولكنها تمتنع عن أي استخدام عملي واسع النطاق ــ على الأقل حتى تلحق التكنولوجيا بحالات الاستخدام الخاصة بها.، من خلال إنشاء روبوتات الدردشة والاستجابات التلقائية - بمستويات متفاوتة من النجاح - بينما يستخدمها آخرون لتطوير أدوات زائدة عن الحاجة أو غير ضرورية.

لاحظنا أيضًا أمثلة على "القيادة الفكرية" المتعلقة بالذكاء الاصطناعي في المنتديات، مما يشير إلى أن الجهات الفاعلة في مجال التهديد تتصارع مع نفس الأسئلة اللوجستية والفلسفية والأخلاقية مثل أي شخص آخر عندما يتعلق الأمر بهذه التكنولوجيا.

المصدر: Sophos