دراسات: إدارة المخاطر لدى كبرى شركات الذكاء الاصطناعي “غير مقبولة”

(SeaPRwire) –   وفقًا لدراستين جديدتين نُشرتا يوم الخميس، تتمتع شركات الذكاء الاصطناعي الرائدة في العالم بمستويات “غير مقبولة” من إدارة المخاطر، و”نقص صارخ في الالتزام بالعديد من مجالات السلامة”.

مخاطر الذكاء الاصطناعي الحالي – باعتراف العديد من الشركات الكبرى نفسها – قد تشمل مساعدة الذكاء الاصطناعي لجهات فاعلة سيئة في تنفيذ هجمات إلكترونية أو إنشاء أسلحة بيولوجية. ويخشى كبار العلماء من أن نماذج الذكاء الاصطناعي المستقبلية قد تفلت من السيطرة البشرية تمامًا.

أُجريت الدراستان بواسطة المنظمتين غير الربحيتين SaferAI و Future of Life Institute (FLI). وكانت كلتاهما الأولى من نوعها، فيما تأمل المجموعات أن تكون سلسلة مستمرة تحفز شركات الذكاء الاصطناعي الكبرى على تحسين ممارساتها.

يقول ماكس تيجمارك، رئيس FLI: “نريد أن نجعل من السهل حقًا على الناس رؤية من لا يكتفي بالقول فحسب، بل يطبق الأفعال أيضًا”.

قيمت SaferAI بروتوكولات إدارة المخاطر لشركات الذكاء الاصطناعي الكبرى (المعروفة أيضًا باسم سياسات التوسع المسؤول) لتسجيل نقاط لكل شركة بناءً على نهجها في تحديد مخاطر الذكاء الاصطناعي وتخفيفها.

لم تسجل أي شركة ذكاء اصطناعي درجة أفضل من “ضعيف” في تقييم SaferAI لنضج إدارة المخاطر لديها. وكان أعلى الشركات تسجيلاً هي Anthropic (35%)، تليها OpenAI (33%)، ثم Meta (22%)، و Google DeepMind (20%). وسجلت xAI التابعة لإيلون ماسك 18%.

حصلت شركتان، Anthropic و Google DeepMind، على درجات أقل مما كانت عليه في المرة الأولى التي أجريت فيها الدراسة، في أكتوبر 2024. وتعني هذه النتيجة أن OpenAI تجاوزت Google لتحتل المرتبة الثانية في تصنيفات SaferAI.

قال سيميون كامبوس، مؤسس SaferAI، إن Google سجلت درجة منخفضة نسبيًا على الرغم من قيامها ببعض الأبحاث الجيدة في مجال السلامة، لأن الشركة تقدم التزامات قليلة وقوية في سياساتها. كما أطلقت الشركة نموذجًا رائدًا في وقت سابق من هذا العام، Gemini 2.5، دون مشاركة معلومات السلامة – فيما وصفه كامبوس بـ “فشل فادح”. وصرح متحدث باسم Google DeepMind لمجلة TIME: “نحن ملتزمون بتطوير الذكاء الاصطناعي بأمان وأمان لخدمة المجتمع. وتشمل تدابير سلامة الذكاء الاصطناعي مجموعة واسعة من وسائل التخفيف المحتملة. ولا تأخذ هذه التقارير الأخيرة في الاعتبار جميع جهود Google DeepMind لسلامة الذكاء الاصطناعي، ولا جميع معايير الصناعة. إن نهجنا الشامل لسلامة وأمن الذكاء الاصطناعي يمتد إلى ما هو أبعد مما تم التقاطه.”

كما تراجعت درجة Anthropic منذ التقييم الأخير لـ SaferAI في أكتوبر. ويرجع ذلك جزئيًا إلى التغييرات التي أجرتها الشركة على سياستها للتوسع المسؤول قبل أيام من إصدار نماذج Claude 4، والتي شهدت قيام Anthropic بإزالة التزاماتها بمعالجة التهديدات الداخلية بحلول وقت إصدار نماذج من هذا العيار. يقول كامبوس: “هذه عملية سيئة للغاية”. ولم تستجب Anthropic على الفور لطلب التعليق.

كما قال مؤلفو الدراسة إن منهجيتهم أصبحت أكثر تفصيلاً منذ أكتوبر الماضي، وهو ما يفسر بعض الاختلافات في النتائج.

الشركات التي حسنت درجاتها أكثر هي xAI، التي سجلت 18% مقارنة بـ 0% في أكتوبر؛ و Meta، التي سجلت 22% مقارنة بدرجتها السابقة البالغة 14%.

كانت دراسة FLI أوسع نطاقاً – حيث لم تنظر فقط في ممارسات إدارة المخاطر، ولكن أيضًا في نهج الشركات تجاه الأضرار الحالية، والسلامة الوجودية، والحوكمة، ومشاركة المعلومات. قام فريق مكون من ستة خبراء مستقلين بتقييم كل شركة بناءً على مراجعة المواد المتاحة للجمهور مثل السياسات والأوراق البحثية والتقارير الإخبارية، بالإضافة إلى بيانات غير عامة إضافية أُتيحت للشركات فرصة تقديمها. أعلى درجة حصلت عليها Anthropic (C بلس). سجلت OpenAI درجة C، وسجلت Google درجة C ناقص. (سجلت كل من xAI و Meta درجة D).

ومع ذلك، في درجات FLI لنهج كل شركة تجاه “السلامة الوجودية”، سجلت كل شركة درجة D أو أقل. يقول تيجمارك: “كلهم يقولون: نريد بناء آلات فائقة الذكاء يمكنها التفوق على البشر بكل طريقة ممكنة، ومع ذلك، ليس لديهم خطة لكيفية التحكم في هذه الأشياء”.