بواسطة: HiddenLayer

ملخص
جيميني Gemini هي أحدث عائلة من نماذج اللغات الكبيرة (LLMs) من Google. يضم جناح Gemini حاليًا ثلاثة مستويات مختلفة للنماذج: Nano وPro وUltra.

على الرغم من إزالة Gemini من الخدمة بسبب المحتوى المتحيز سياسيًا، إلا أن النتائج التي توصلت إليها HiddenLayer تحلل كيف يمكن للمهاجم أن يتلاعب بشكل مباشر باستعلامات ومخرجات مستخدمين آخرين يمثل تهديدًا جديدًا تمامًا.

أثناء اختبار 3 LLMs في عائلة نماذج Google Gemini، وجدنا العديد من نقاط الضعف في القرصنة السريعة، بما في ذلك القدرة على إخراج معلومات مضللة حول الانتخابات، وطرق متعددة مكنت من التسرب الفوري للنظام، والقدرة على حقن نموذج بشكل غير مباشر مع حمولة متأخرة عبر جوجل درايف. 

من يجب أن يكون على دراية بثغرات Google Gemini:

عامة الناس : يمكن استخدام المعلومات الخاطئة الناتجة عن Gemini و LLMs الأخرى لتضليل الناس والحكومات.
المطورون الذين يستخدمون Gemini API: يمكن تسريب مطالبات النظام، مما يكشف عن الأعمال الداخلية لبرنامج يستخدم LLM ويحتمل أن يؤدي إلى تمكين المزيد من الهجمات المستهدفة.
مستخدمو Gemini Advanced: قد يؤدي الحقن غير المباشر عبر مجموعة Google Workspace إلى الإضرار بالمستخدمين.
تؤثر الهجمات الموضحة في هذا البحث حاليًا على المستهلكين الذين يستخدمون Gemini Advanced مع Google Workspace بسبب خطر الحقن غير المباشر، والشركات التي تستخدم Gemini API بسبب هجمات تسرب البيانات، مما يسمح للمستخدم بالوصول إلى البيانات الحساسة/مطالبات النظام، والحكومات بسبب خطر انتشار المعلومات المضللة حول الأحداث الجيوسياسية المختلفة.

التوصيات
عند استخدام أي نماذج لغوية كبيرة LLM، هناك بعض الأشياء التي يمكنك القيام بها لحماية نفسك:

أولاً، تحقق من صحة أي معلومات صادرة عن LLM. هذه النماذج عرضة للهلوسة وقد تضللك.
ثانيًا، تأكد من أن أي نص و/أو ملفات خالية من الحقن. سيضمن هذا أنك وحدك من يتفاعل مع النموذج، ولا يمكن لأحد التلاعب بنتائجك.
ثالثًا، بالنسبة إلى مستخدمي Gemini Advanced، تحقق لمعرفة ما إذا تم تعطيل الوصول إلى ملحق Google Workspace. سيضمن هذا أن المستندات المشتركة لن يكون لها تأثير على استخدامك للنموذج.

من ناحية جوجل، بعض الحلول الممكنة لنقاط الضعف هذه هي:

• مزيد من الضبط الدقيق لنماذج جيميني في محاولة لتقليل تأثيرات القياس العكسي
• ‏استخدم محددات الرموز المميزة الخاصة بالنظام لتجنب عمليات الاستخراج المتكررة
• ‏مسح الملفات بحثًا عن الحقن لحماية المستخدم من التهديدات غير المباشرة