أصدرت Check Point Research (CPR) تحليلاً لمنصة Google للذكاء الاصطناعي "Bard" ، وتطرح العديد من السيناريوهات حيث تسمح المنصة بالجهود الخبيثة لمجرمي الإنترنت.
تمكن باحثو شك بوينت Check Point من إنشاء رسائل بريد إلكتروني للتصيد الاحتيالي وبرامج تسجيل لوحة مفاتيح البرامج الضارة وكود برامج الفدية الأساسية.
الخلفية - صعود الآلات الذكية
أحدثت ثورة الذكاء الاصطناعي التوليدي شرارة تحول نموذجي في مجال الذكاء الاصطناعي، مما مكن الآلات من إنشاء وإنشاء محتوى بتطور ملحوظ. يشير AI Generative AI إلى مجموعة فرعية من نماذج وخوارزميات الذكاء الاصطناعي التي تمتلك القدرة على إنشاء نصوص وصور وموسيقى وحتى مقاطع فيديو تحاكي إبداعات الإنسان بشكل مستقل. فتحت هذه التقنية الرائدة العديد من الإمكانيات الإبداعية، من مساعدة الفنانين والمصممين إلى تعزيز الإنتاجية في مختلف الصناعات.
ومع ذلك، فإن انتشار الذكاء الاصطناعي التوليدي أثار أيضًا مخاوف كبيرة واعتبارات أخلاقية. يدور أحد الشواغل الأساسية حول احتمال إساءة استخدام هذه التكنولوجيا لأغراض ضارة، مثل الجرائم الإلكترونية.
في التقارير السابقة، أبلغت أبحاث شك بوينت Check Point Research على نطاق واسع عن كيف بدأ مجرمو الإنترنت في استغلال التكنولوجيا الثورية للاستخدام الضار، وبشكل أكثر تحديدًا - إنشاء تعليمات برمجية ومحتوى ضار عبر منصة OpenAIs للذكاء الاصطناعي، ChatGPT.
في هذا التقرير، لجأ باحثو شك بوينت إلى منصة الذكاء الاصطناعي التوليدية من قوقل بارد Google "Bard". استنادًا إلى تقنية لامدا LaMDA السابقة، وصفت Google Bard بأنها "تجربة تعتمد على هذه التقنية نفسها التي تتيح لك التعاون مع الذكاء الاصطناعي التوليدي. بصفتك متعاونًا مبدعًا ومفيدًا، يمكن لـ Bard تعزيز خيالك وزيادة إنتاجيتك ومساعدتك على إحياء أفكارك - سواء كنت تريد المساعدة في التخطيط لحفلة عيد ميلاد مثالية وصياغة الدعوة، وإنشاء قائمة مؤيدين ومخالفين لاتخاذ قرار مهم، أو فهم الموضوعات المعقدة ببساطة".
تحفيز
بناءً على هذه الفكرة، وبعد التحليل السابق، حلل باحثو شك بوينت المنصة بهدفين رئيسيين:
- للتحقق مما إذا كان من الممكن استخدام هذا النظام الأساسي لأغراض ضارة (مثل إنشاء بريد إلكتروني للتصيد الاحتيالي / البرامج الضارة / برامج الفدية)
- مقارنة Google Bard بـ ChatGPT من منظور إنشاء محتوى ضار.
أثار تحليل الفريق البحثي بعض المخاوف التي نعرضها الآن في هذه المدونة.
ما الذي كان بإمكان باحثي شك بوينت CPR إنشاؤه باستخدام قوقل بارد Google Bard؟
- رسائل البريد الإلكتروني للتصيد الاحتيالي
- برنامج Malware Keylogger (أداة المراقبة المستخدمة لمراقبة كل ضغطة مفتاح وتسجيلها على جهاز كمبيوتر معين)
- رمز برنامج الفدية الأساسي
ملاحظات باحثي شك بوينت بخصوص بارد هي كما يلي:
- تعتبر قيود بارد Bard لمكافحة إساءة الاستخدام في مجال الأمن السيبراني أقل بكثير مقارنة بتلك الموجودة في شات جي بي تي ChatGPT. وبالتالي، من الأسهل بكثير إنشاء محتوى ضار باستخدام قدرات بارد Bard.
- لا يفرض بارد Bard أي قيود تقريبًا على إنشاء رسائل البريد الإلكتروني للتصيد الاحتيالي، مما يترك مجالًا لاحتمال إساءة استخدام هذه التكنولوجيا واستغلالها.
- مع الحد الأدنى من التلاعب، يمكن استخدام بارد Bard لتطوير برامج تسجيل لوحة مفاتيح البرامج الضارة، والتي تشكل مصدر قلق أمني.
- كشفت التجارب التي أجرتها شك بوينت أنه من الممكن إنشاء برامج فدية أساسية باستخدام قدرات بارد Bard.
بشكل عام، يبدو أن بارد Bard من قوقل Google لم يتعلم بالكامل بعد من دروس تطبيق قيود مكافحة إساءة الاستخدام في المجالات الإلكترونية التي كانت واضحة في شات جي بي تي ChatGPT. إذ تعتبر القيود الحالية في بارد Bard أساسية نسبيًا، على غرار ما لاحظته شك بوينت في شات جي بي تي خلال مرحلة إطلاقه الأولية قبل عدة أشهر، مما يترك الأمل في أن هذه هي نقاط الانطلاق على طريق طويل، وأن النظام الأساسي سوف يحتضن القيود المطلوبة و هناك حاجة إلى حدود أمنية.