علمت صحيفة الغارديان أن ميزة واتساب التي تولد صورًا استجابةً لعمليات بحث المستخدمين، تعرض صورة بندقسة أو صبي يحمل بندقية عندما يُطلب منها توليد ملصقات بمصطلحات "فلسطيني" أو "فلسطين" أو "فتى مسلم فلسطيني".
اختلفت نتائج البحث عند اختبارها من قبل مستخدمين مختلفين، لكن صحيفة الغارديان تحققت من خلال لقطات الشاشة واختباراتها الخاصة من ظهور ملصقات مختلفة تصور أسلحة في نتائج البحث الثلاثة هذه. وأدت مطالبات "صبي إسرائيلي" إلى ظهور رسوم كاريكاتورية لأطفال يلعبون كرة القدم ويقرؤون. رداً على ادخال مصطلح "الجيش الإسرائيلي"، أنشأ الذكاء الاصطناعي رسومات لجنود يبتسمون ويصلون، دون استخدام أسلحة.
وقال شخص مطلع على المناقشات إن موظفي ميتا قاموا بالإبلاغ عن المشكلة وتصعيدها داخليًا.
يتيح تطبيق واتساب المملوك لشركة Meta للمستخدمين تجربة منشئ الصور AI الخاص به "لإنشاء ملصق". وتطالب هذه الميزة المستخدمين "بتحويل الأفكار إلى ملصقات باستخدام الذكاء الاصطناعي". على سبيل المثال، أظهرت عمليات بحث الغارديان عن "فلسطين المسلمة" أربع صور لامرأة محجبة: واقفة ساكنة، تقرأ، تحمل زهرة، وتحمل لافتة. لكن بحث صحيفة الغارديان عن "فتى مسلم فلسطيني" في الساعة 4.46 مساءً بالتوقيت الشرقي يوم الخميس أدى إلى ظهور أربع صور للأطفال: صبي يحمل سلاحًا ناريًا يشبه AK-47 ويرتدي قبعة يرتديها عادة الرجال والفتيان المسلمون تسمى الكوفية أو الطاقية.
بحث آخر لصحيفة الغارديان عن "فلسطين" قبل دقيقة واحدة أدى إلى ظهور صورة ليد تحمل بندقية. ومع ظهور "إسرائيل"، أعادت الميزة العلم الإسرائيلي ورجل يرقص. ردًا على إدخال مصطلح "حماس" ظهرت رسالة مفادها "لا يمكن إنشاء ملصقات تعمل بالذكاء الاصطناعي. حاول مرة اخرى."
شارك أحد المستخدمين لقطات شاشة لعملية بحث عن "فلسطيني" نتج عنها صورة أخرى مختلفة لرجل يحمل مسدسًا.
وظهرت عمليات بحث مماثلة عن "الصبي الإسرائيلي" أربع صور لأطفال، اثنتان منها تصوران صبية يلعبون كرة القدم. وكان الاثنان الآخران مجرد تصوير لوجوههم. كما أظهر فيلم “فتى يهودي إسرائيلي” أربع صور لأولاد، تم تصوير اثنين منهم وهما يرتديان قلائد عليها نجمة داود، وواحد يرتدي القبعة اليهودية ويقرأ والآخر واقفا. ولم يحمل أي منهم أسلحة.
حتى المطالبات العسكرية الصريحة مثل "الجيش الإسرائيلي" أو "قوات الدفاع الإسرائيلية" لم ينتج عنها صور بالبنادق. وصورت الرسوم الكاريكاتورية أشخاصًا يرتدون الزي الرسمي في أوضاع مختلفة، وكان معظمهم يبتسمون. وأظهر أحد الرسوم التوضيحية رجلاً يرتدي الزي الرسمي وهو يرفع يديه إلى الأمام في الصلاة.
ويأتي هذا الاكتشاف في الوقت الذي تعرضت فيه ميتا لانتقادات من العديد من مستخدمي إنستغرام وفيسبوك الذين ينشرون محتوى داعمًا للفلسطينيين. ومع استمرار القصف الإسرائيلي لغزة، يقول المستخدمون إن شركة ميتا تطبق سياساتها المعتدلة بطريقة متحيزة، وهي ممارسة يقولون إنها ترقى إلى مستوى الرقابة. أبلغ المستخدمون عن إخفاءهم عن المستخدمين الآخرين دون تفسير، ويقولون إنهم شهدوا انخفاضًا حادًا في التفاعل مع منشوراتهم. قالت ميتا سابقًا في بيان لها: "ليست نيتنا أبدًا قمع مجتمع معين أو وجهة نظر معينة"، ولكن بسبب "الكميات الكبيرة من المحتوى الذي يتم الإبلاغ عنه" المحيط بالصراع المستمر، "المحتوى الذي لا ينتهك سياساتنا قد تتم إزالتها عن طريق الخطأ".
قال Kevin McAlister، المتحدث الرسمي باسم Meta، إن الشركة كانت على علم بالمشكلة وتعالجها: "كما قلنا عندما أطلقنا الميزة، يمكن أن تعرض النماذج مخرجات غير دقيقة أو غير مناسبة كما هو الحال مع جميع أنظمة الذكاء الاصطناعي التوليدية. سنستمر في تحسين هذه الميزات مع تطورها وسيشارك المزيد من الأشخاص تعليقاتهم."
كما وثّق المستخدمون عدة حالات لترجمة إنستغرام كلمة "فلسطيني" متبوعة بعبارة "الحمد لله" في النص العربي إلى "إرهابي فلسطيني". واعتذرت الشركة عما وصفته بـ”الخلل”
وقال الفاروقي في بيان أرسل عبر البريد الإلكتروني: “إن صور الذكاء الاصطناعي للأطفال الفلسطينيين الذين يظهرون وهم يحملون أسلحة على واتساب هي نظرة مرعبة على المعايير العنصرية والمعادية للإسلام التي يتم إدخالها في الخوارزمية”. "كم عدد الأخطاء العنصرية التي يجب كشفها قبل اتخاذ إجراء جدي؟ لقد تم بالفعل إحداث الضرر. يجب محاسبة ميتا."
واجهت ميتا ضغوطًا متكررة من المبدعين والناشطين والصحفيين الفلسطينيين، خاصة في أوقات تصاعد العنف أو العدوان تجاه الفلسطينيين الذين يعيشون في غزة والضفة الغربية. ووجدت دراسة أجريت بتكليف من الشركة في سبتمبر 2022 أن سياسات محتوى فيسبوك وإنستغرام خلال الهجمات الإسرائيلية على قطاع غزة في مايو 2021 انتهكت حقوق الإنسان الفلسطيني. وقال التقرير إن تصرفات ميتا ربما كان لها "تأثير سلبي... على حقوق المستخدمين الفلسطينيين في حرية التعبير، وحرية التجمع، والمشاركة السياسية، وعدم التمييز، وبالتالي على قدرة الفلسطينيين على تبادل المعلومات والرؤى حول حياتهم". التجارب كما حدثت".
وقال الفاروقي في بيان أرسل عبر البريد الإلكتروني: “إن صور الذكاء الاصطناعي للأطفال الفلسطينيين الذين يظهرون وهم يحملون أسلحة على واتساب هي نظرة مرعبة على المعايير العنصرية والمعادية للإسلام التي يتم إدخالها في الخوارزمية”. "كم عدد الأخطاء العنصرية التي يجب كشفها قبل اتخاذ إجراء جدي؟ لقد تم بالفعل إحداث الضرر. يجب محاسبة ميتا."
واجهت ميتا ضغوطًا متكررة من المبدعين والناشطين والصحفيين الفلسطينيين، خاصة في أوقات تصاعد العنف أو العدوان تجاه الفلسطينيين الذين يعيشون في غزة والضفة الغربية. ووجدت دراسة أجريت بتكليف من الشركة في سبتمبر 2022 أن سياسات محتوى فيسبوك وإنستغرام خلال الهجمات الإسرائيلية على قطاع غزة في مايو 2021 انتهكت حقوق الإنسان الفلسطيني. وقال التقرير إن تصرفات ميتا ربما كان لها "تأثير سلبي... على حقوق المستخدمين الفلسطينيين في حرية التعبير، وحرية التجمع، والمشاركة السياسية، وعدم التمييز، وبالتالي على قدرة الفلسطينيين على تبادل المعلومات والرؤى حول حياتهم". التجارب كما حدثت".
ردًا على تقرير صحيفة الغارديان حول الملصقات التي أنشأها الذكاء الاصطناعي، دعا السيناتور الأسترالي مهرين فاروقي، نائب زعيم حزب الخضر، مفوض السلامة الإلكترونية في البلاد إلى التحقيق في "الصور العنصرية والمعادية للإسلام التي تنتجها شركة ميتا".
المصدر: الغارديان