تحث جوجل مطوري تطبيقات أندرويد التابعين لجهات خارجية على دمج ميزات الذكاء الاصطناعي التوليدي (GenAI) بطريقة مسؤولة.
إن التوجيه الجديد من عملاق البحث والإعلان هو محاولة لمكافحة المحتوى الإشكالي، بما في ذلك المحتوى الجنسي وخطاب الكراهية، الذي يتم إنشاؤه من خلال هذه الأدوات.
ولتحقيق هذه الغاية، يجب أن تتأكد التطبيقات التي تنشئ محتوى باستخدام الذكاء الاصطناعي من أنها لا تنشئ محتوى مقيدًا ، وأن يكون لديها آلية للمستخدمين للإبلاغ عن المعلومات المسيئة أو الإبلاغ عنها ، وتسويقها بطريقة تمثل إمكانات التطبيق بدقة. ويُنصح مطورو التطبيقات أيضًا باختبار نماذج الذكاء الاصطناعي الخاصة بهم بدقة للتأكد من أنهم يحترمون سلامة المستخدم وخصوصيته.
قال برابهات شارما، مدير الثقة والسلامة في جوجل بلاي وأندرويد وكروم : "تأكد من اختبار تطبيقاتك عبر سيناريوهات المستخدم المختلفة وحمايتها من المطالبات التي يمكن أن تتلاعب بميزة الذكاء الاصطناعي التوليدية لإنشاء محتوى ضار أو مسيء".
ويأتي هذا التطوير في الوقت الذي عثر فيه تحقيق حديث أجرته شركة 404 Media على العديد من التطبيقات على متجر أبل ستور ومتجر جوجل ستور التي أعلنت عن القدرة على إنشاء صور عارية بدون موافقة.
استخدام ميتا للبيانات العامة في الذكاء الاصطناعي يثير المخاوف
وقد أدى الاعتماد السريع لتقنيات الذكاء الاصطناعي في السنوات الأخيرة أيضًا إلى مخاوف أوسع نطاقًا تتعلق بالخصوصية والأمن فيما يتعلق ببيانات التدريب وسلامة النماذج، مما يوفر للجهات الفاعلة الخبيثة طريقة لاستخراج المعلومات الحساسة والتلاعب بالنماذج الأساسية للحصول على نتائج غير متوقعة.
علاوة على ذلك، فإن قرار ميتا باستخدام المعلومات العامة المتاحة عبر منتجاتها وخدماتها للمساعدة في تحسين عروض الذكاء الاصطناعي الخاصة بها والحصول على " أفضل تقنية توصية في العالم " دفع شركة الخصوصية النمساوية noyb إلى تقديم شكوى في 11 دولة أوروبية تزعم فيها انتهاك قوانين الخصوصية الخاصة باللائحة العامة لحماية البيانات. في المنطقة.
وأعلنت الشركة أواخر الشهر الماضي أن "هذه المعلومات تتضمن أشياء مثل المنشورات العامة أو الصور العامة والتعليقات التوضيحية الخاصة بها". "في المستقبل، قد نستخدم أيضًا المعلومات التي يشاركها الأشخاص عند التفاعل مع ميزات الذكاء الاصطناعي التوليدية لدينا، مثل Meta AI، أو مع شركة ما، لتطوير منتجات الذكاء الاصطناعي وتحسينها."
على وجه التحديد، اتهم نويب شركة ميتا بتحويل العبء على المستخدمين (أي جعلها تقوم بإلغاء الاشتراك بدلاً من الاشتراك) والفشل في تقديم معلومات كافية حول كيفية تخطيط الشركة لاستخدام بيانات العميل.
أشارت ميتا، من جانبها، إلى أنها "ستعتمد على الأساس القانوني لـ"المصالح المشروعة" لمعالجة بعض بيانات الطرف الأول والثالث في المنطقة الأوروبية والمملكة المتحدة" لتحسين الذكاء الاصطناعي وبناء تجارب أفضل. لدى مستخدمي الاتحاد الأوروبي مهلة حتى 26 يونيو لإلغاء الاشتراك في المعالجة، وهو ما يمكنهم القيام به عن طريق تقديم طلب .
في حين أن عملاق وسائل التواصل الاجتماعي أوضح أن هذا النهج يتماشى مع كيفية تطوير شركات التكنولوجيا الأخرى وتحسين تجاربها في مجال الذكاء الاصطناعي في أوروبا، إلا أن هيئة حماية البيانات النرويجية Datatilsynet قالت إنها "تشكك" في شرعية العملية.
وقالت الوكالة في بيان: "من وجهة نظرنا، كان الشيء الأكثر طبيعية هو طلب موافقة المستخدمين قبل استخدام منشوراتهم وصورهم بهذه الطريقة".
وقال ماكس شريمز من شركة noyb: "لقد أوضحت محكمة العدل الأوروبية بالفعل أن ميتا ليس لديها "مصلحة مشروعة" لتجاوز حق المستخدمين في حماية البيانات عندما يتعلق الأمر بالإعلانات". "ومع ذلك، تحاول الشركة استخدام نفس الحجج لتدريب تكنولوجيا الذكاء الاصطناعي غير المحددة."
استدعاء مايكروسوفت يواجه المزيد من التدقيق
تأتي أحدث المشاجرة التنظيمية لـ ميتا أيضًا في الوقت الذي تلقت فيه ميزة Recall التي تعمل بالذكاء الاصطناعي الخاصة بشركة مايكروسوفت رد فعل عنيفًا سريعًا بسبب مخاطر الخصوصية والأمان التي قد تنشأ نتيجة لالتقاط لقطات شاشة لأنشطة المستخدمين على أجهزة الكمبيوتر الشخصية التي تعمل بنظام ويندوز كل خمس ثوانٍ وتحويلها ووضعها في أرشيف قابل للبحث.
وجد الباحث الأمني كيفن بومونت، في تحليل جديد، أنه من الممكن لممثل خبيث أن ينشر أداة سرقة المعلومات ويتسلل إلى قاعدة البيانات التي تخزن المعلومات التي تم تحليلها من لقطات الشاشة. الشرط الوحيد لتحقيق ذلك هو أن الوصول إلى البيانات يتطلب امتيازات المسؤول على جهاز المستخدم.
وقال بومونت: "يُمكّن برنامج الاسترجاع الجهات الفاعلة في مجال التهديد من أتمتة عملية مسح كل شيء نظرت إليه في غضون ثوانٍ" . "يجب على [مايكروسوفت] أن تتذكر ميزة الاستدعاء وتعيد صياغتها لتكون الميزة التي تستحقها، ويتم تقديمها في وقت لاحق."
وقد أظهر باحثون آخرون بالمثل أدوات مثل TotalRecall التي تجعل برنامج Recall جاهزًا لإساءة الاستخدام واستخراج معلومات حساسة للغاية من قاعدة البيانات. وقال ألكسندر هاجينا، الذي طور TotalRecall : "يقوم Windows Recall بتخزين كل شيء محليًا في قاعدة بيانات SQLite غير مشفرة، ويتم حفظ لقطات الشاشة ببساطة في مجلد على جهاز الكمبيوتر الخاص بك".
اعتبارًا من 6 يونيو 2024، تم تحديث TotalRecall بحيث لم يعد يتطلب حقوق المسؤول باستخدام إحدى الطريقتين اللتين أوضحهما الباحث الأمني جيمس فورشو لتجاوز متطلبات امتياز المسؤول من أجل الوصول إلى بيانات الاستدعاء.
قال فورشو : "إنها محمية فقط من خلال [ قائمة التحكم في الوصول ] إلى النظام، وبالتالي فإن أي تصعيد للامتيازات (أو الحدود غير الأمنية) يكفي لتسريب المعلومات" .
تتضمن التقنية الأولى انتحال شخصية برنامج يسمى AIXHost.exe من خلال الحصول على الرمز المميز الخاص به، أو حتى أفضل من ذلك، الاستفادة من امتيازات المستخدم الحالي لتعديل قوائم التحكم في الوصول والوصول إلى قاعدة البيانات الكاملة.
ومع ذلك، تجدر الإشارة إلى أن Recall قيد المعاينة حاليًا ولا يزال بإمكان مايكروسوفت إجراء تغييرات على التطبيق قبل أن يصبح متاحًا على نطاق واسع لجميع المستخدمين في وقت لاحق من هذا الشهر. ومن المتوقع أن يتم تمكينه افتراضيًا لأجهزة الكمبيوتر المتوافقة مع برنامج Copilot+.
المصدر: The Hacker News,