ترك جوجل في “مأزق مروع” بسحب ميزة الذكاء الاصطناعي بعد ردة فعل من اليمين

(SeaPRwire) –   كان شهر فبراير يشكل شهرا مميزا بالنسبة لاستراتيجية الذكاء الاصطناعي الطموحة لشركة جوجل. أعادت الشركة تسمية بوتها المحادث إلى جيميني وأصدرت تحديثين رئيسيين لمنافسة المنافسين من جميع الجهات في سباق السلاح التكنولوجي عالي المخاطر في مجال الذكاء الاصطناعي. وفي خضم كل ذلك، مكنت جوجل أيضًا مستخدمي جيميني من إنشاء صور واقعية للأشخاص.

لم يلاحظ الكثيرون الميزة في البداية. توفر شركات أخرى مثل أوبن أي أيضًا أدوات تسمح للمستخدمين بإنشاء صور للأشخاص بسرعة يمكن استخدامها فيما بعد في التسويق والفن والتفكير في الأفكار الإبداعية. ومثل باقي منتجات الذكاء الاصطناعي، فإن هذه المولدات للصور تحمل مخاطر نقل التحيزات بناءً على البيانات التي تم تغذيتها خلال عملية التطوير.

​​بدءًا من نحو 20 فبراير/شباط واستمرارًا طوال الأسبوع، لاحظ مستخدمو جيميني على منصة إكس مشكلة مختلفة. قبل أن يطول الأمر، ادعى شخصيات عامة ووسائل إعلام ذات جمهور يميني واسع بدلائل غير دقيقة أن اختباراتهم لجيميني أظهرت أن جوجل لديها أجندة خفية ضد البيض.

انضم إيلون ماسك، مالك إكس، إلى الخلاف، حيث تفاعل مع عشرات المنشورات حول المؤامرة غير المؤسسة، بما في ذلك بعض التي أشارت إلى قادة جوجل المزعومين كمهندسي السياسة. في يوم الخميس، توقفت جوجل عن توليد صور الأشخاص بواسطة جيميني. في اليوم التالي، حاول برابهاكار راغافان، نائب الرئيس التنفيذي الأعلى في جوجل، إلقاء بعض الضوء على قرار الشركة، دون شرح سبب تعثر الميزة بالتفصيل.

يوضح إطلاق جوجل لمنتج غير مؤهل للتعامل مع طلبات الصور التاريخية التحدي الفريد الذي تواجهه الشركات التقنية في منع نظمها الذكية من تضخيم التحيز والمعلومات المضللة – خاصة في ظل الضغط التنافسي لإطلاق منتجات الذكاء الاصطناعي بسرعة. بدلاً من تأجيل إطلاق أداة توليد الصور غير الكاملة، حاولت جوجل حلاً سريعاً.

عندما أطلقت الشركة الأداة، شملت حلاً تقنياً للحد من التحيز في المخرجات، وفقًا لشخصين على دراية بالأمر، طلبا عدم الكشف عن هويتهما بينما يناقشان معلومات خاصة. لكن جوجل لم تقم باختبار كافٍ لكل الطرق التي قد تفشل فيها الأداة، قال أحد الأشخاص، ودون شفافية في نهجها.

تركت محاولة جوجل تصحيح التحيز المعروف لدى الذكاء الاصطناعي ضد أشخاص اللونهم أسودها عرضة لعاصفة أخرى حول التنوع. وواجهت العملاق التقني انتقادات عبر السنين لاسترجاعها صورًا لأشخاص من أصول أفريقية عندما يبحث المستخدمون عن “قردة” في تطبيقها للصور، فضلاً عن معركة طويلة حول ما إذا كانت قد تصرفت بشكل مناسب في إقالة قادة فريقها للذكاء الأخلاقي.

في التصرف بسرعة كبيرة لوقف هذه الأداة، دون تفكيك كافٍ لماذا استجابت الأنظمة على هذا النحو، يخشى العاملون في جوجل وغيرهم في وادي السيليكون أن خطوة الشركة ستؤدي إلى تأثير مثبط. ويقولون إنها قد تثني المواهب عن العمل على قضايا الذكاء الاصطناعي والتحيز – وهي قضية حاسمة للمجال.

“لقد وضعت صناعة التكنولوجيا بأكملها، مع جوجل في مقدمتها، مرة أخرى أنفسهم في مأزق فظيع من صنعهم”، قالت لورا إديلسون، أستاذة مساعدة في جامعة نورث إيسترن التي درست أنظمة الذكاء الاصطناعي وتدفق المعلومات عبر الشبكات الضخمة عبر الإنترنت. وأضافت: “يحتاج القطاع بشدة إلى تصوير الذكاء الاصطناعي على أنه سحر، وليس محاكاة،” مشيرة إلى استعارة شائعة تصف كيفية محاكاة أنظمة الذكاء الاصطناعي للغة البشرية من خلال المطابقة الإحصائية للأنماط، دون فهم حقيقي أو إدراك. “لكن المحاكي هو ما لديهم.”

“جيميني تم بناؤه كأداة للإبداع والإنتاجية، وقد لا يكون دائمًا دقيقًا أو موثوقًا به”، قال متحدث باسم جوجل في بيان. “نحن نواصل معالجة الحالات التي لا تستجيب فيها المنتج بشكل مناسب على وجه السرعة.”

في رسالة بريد إلكتروني إلى الموظفين في وقت متأخر من يوم الثلاثاء، قال الرئيس التنفيذي لشركة جوجل سوندار بيتشاي إن الموظفين كانوا “يعملون على مدار الساعة” لتصحيح المشاكل التي أبلغ عنها المستخدمون مع استجابات جيميني، مضيفًا أن الشركة سجلت “تحسنًا كبيرًا في نطاق واسع من الطلبات”.

“أدرك أن بعض استجاباتها أساءت إلى مستخدمينا وأظهرت تحيزًا – للتوضيح، هذا أمر غير مقبول تمامًا وارتكبنا خطأ”، كتب بيتشاي في المذكرة، التي أفادت سيمافور عنها أولاً. “ليس هناك ذكاء اصطناعي مثالي، خاصة في هذه المرحلة الناشئة من تطور الصناعة، لكننا نعلم أن المعيار مرتفع بالنسبة لنا وسنواصل العمل مهما استغرق الأمر. وسنراجع ما حدث ونتأكد من تصحيحه على نطاق واسع.”

واجه العاملون في جوجل على الذكاء الأخلاقي معنويات منخفضة وشعور بالإقصاء على مدار العام الماضي كون الشركة سرعت وتيرة إطلاق منتجات الذكاء الاصطناعي للحفاظ على المنافسة مع المنافسين مثل أوبن أي آي. وفي حين أظهر تضمين أشخاص من أصول أفريقية في صور جيميني اعتبارات التنوع، فإنه يشير إلى فشل الشركة ف