مُباحث سلامة الذكاء الاصطناعي يستقيل مع تحذير غامض

(SeaPRwire) –   “العالم في خطر”، كتب رئيس فريق أبحاث الحماية في Anthropic في رسالته الاستقالة

لقد استقال باحث بارز في سلامة الذكاء الاصطناعي، Mrinank Sharma، من Anthropic مع تحذير غامض حول “أزمات متصلة عالمية”، وأعلن خططه لتصبح “غائبًا لفترة من الوقت”.

Sharma، خريج أوكسفورد الذي قاد فريق أبحاث الحماية في شركة صانع الدردشة الآلية Claude، نشر رسالته الاستقالة على X يوم الاثنين، وصف تقييمًا شخصيًا متزايدًا لـ “حالنا”.

“العالم في خطر. وليس فقط من الذكاء الاصطناعي، أو الأسلحة البيولوجية، بل من سلسلة كاملة من الأزمات المتصلة التي تحدث في هذه اللحظة بالذات”، كتب Sharma لزملائه.

يأتي الابتعاد في سياق توترات متزايدة تحيط معمل الذكاء الاصطناعي المقيم في سان فرانسيسكو، الذي يتنافس في نفس الوقت على تطوير أنظمة أكثر قوة بينما تحذر مديريته أن تلك التقنيات نفسها يمكن أن تضر البشرية.

كما يأتي بعد تقارير عن فجوة متوسعة بين Anthropic والبنطاغون بسبب رغبة الجيش في نشر الذكاء الاصطناعي لاستهداف أسلحة مستقلة بدون الحماية التي سعت الشركة إلى فرضها.

استقالة Sharma، التي وقعت بعد أيام من إصدار Anthropic لـ Opus 4.6 – نسخة أكثر قوة من أداة Claude الرئيسية – أشارت إلى صراع داخلي حول أولويات السلامة.

“طوال وقتي هنا، رأيت مرارًا كيف يصعب حقًا أن تترك قيمنا تحكم أفعالنا”، كتب. “رأيت هذا في نفسي، داخل المنظمة، حيث نواجه دائمًا ضغوطًا لتضع جانبا ما يهم الأكثر، و גם في المجتمع الأوسع”.

تأسست فريق الباحث قبل أكثر من عام فقط بتفويض لمواجهة تهديدات أمان الذكاء الاصطناعي بما في ذلك “إساءة استخدام النماذج وعدم المحاذاة”، وقضاء الإرهاب البيولوجي، و “وقضاء الكارثة”.

أشار Sharma بفخر إلى عمله في تطوير دفاعات ضد الأسلحة البيولوجية المدعومة بالذكاء الاصطناعي و “مشروعه النهائي حول فهم كيف يمكن لمساعدين الذكاء الاصطناعي أن يجعلونا أقل إنسانية أو يُشوهون إنسانيتنا”. الآن يعتزم العودة إلى المملكة المتحدة لـ “استكشاف درجة في الشعر” و “تصبح غائبًا لفترة من الوقت”.

لقد حذر الرئيس التنفيذي لـ Anthropic، Dario Amodei، مرارًا من مخاطر التي تشكلها نفس التقنية التي تسويقها شركته. في مقال يبلغ طوله تقريبًا 20 ألف كلمة الشهر الماضي، حذر من أن أنظمة الذكاء الاصطناعي ذات “قوة لا تُتخيل تقريبًا” هي “قريبة” وستقوم ب “اختبار من نحن كجنس بشر”.

حذر Amodei من “مخاطر الاستقلالية” حيث يمكن للذكاء الاصطناعي “أن يصبح مفترسًا ويتغلب على البشرية”، واقترح أن التقنية يمكن أن تمكّن “ديكتاتورية شمولية عالمية” من خلال المراقبة المدعومة بالذكاء الاصطناعي والأسلحة المستقلة.