كيفية إيقاف تقدم الذكاء الاصطناعي قبل أن يكون متأخراً جداً

(SeaPRwire) –   لم تمض سوى 16 شهرًا فقط، ولكن إطلاق ChatGPT في نوفمبر 2022 يبدو الآن مثل التاريخ القديم للذكاء الاصطناعي. ملايين الدولارات، العامة والخاصة على حد سواء، تتدفق إلى مجال الذكاء الاصطناعي. تم إنشاء آلاف المنتجات المدعومة بالذكاء الاصطناعي، بما في ذلك الجديدة هذا الأسبوع. الطلاب والعلماء الآن يستخدمون هذه نماذج اللغة الضخمة. عالمنا، وبشكل خاص عالم الذكاء الاصطناعي، قد تغير بالفعل بشكل حاسم.

ومع ذلك، فإن الجائزة الحقيقية للذكاء الاصطناعي على مستوى الإنسان – أو أقوى من ذلك – لم يتحقق بعد. سيعني هذا الاختراق أن الذكاء الاصطناعي قادر على القيام بمعظم الأعمال الإنتاجية اقتصاديًا، والتواصل مع الآخرين، وإجراء العلوم، وبناء وصيانة الشبكات الاجتماعية، وإجراء السياسة، وتنفيذ الحروب الحديثة. القيد الرئيسي لجميع هذه المهام اليوم هو المعرفة. إزالة هذا القيد ستكون ذات تأثير عالمي.

قد يكون ذلك نعمة عظيمة للبشرية. ومع ذلك، يمكن أن يكون الذكاء الاصطناعي خطيرًا للغاية أيضًا، وخاصة إذا لم نتمكن من السيطرة عليه. قد يتمكن الذكاء الاصطناعي غير المراقب من الوصول إلى أنظمة إنترنت تدير الكثير من العالم، واستخدامها لتحقيق أهدافه. قد يحصل على وصول إلى حسابات وسائل التواصل الاجتماعي الخاصة بنا وإنشاء تلاعبات مصممة تمامًا لأعداد كبيرة من الناس. وأسوأ من ذلك، قد يتم التلاعب بأفراد العسكريين المسؤولين عن الأسلحة النووية من قبل الذكاء الاصطناعي لمشاركة بياناتهم التعريفية، ما يشكل تهديدًا كبيرًا للبشرية.

سيكون خطوة بناءة جعله من المستحيل قدر الإمكان حدوث أي من ذلك عن طريق تعزيز دفاعات العالم ضد العوامل الإلكترونية غير المرغوب فيها عبر الإنترنت. ومع ذلك، عندما يتمكن الذكاء الاصطناعي من إقناع البشر، الذي هو أكثر كفاءة منا، لا يوجد دفاع معروف.

ولهذه الأسباب، يركز العديد من علماء سلامة الذكاء الاصطناعي في مختبرات مثل أوبن إيه آي وغوغل ديبمايند وأنثروبيك، وفي منظمات غير ربحية مهتمة بالسلامة، على “توافق” أو ذكاء اصطناعي آمن بالفطرة. قد يصبح الذكاء الاصطناعي المتوافق قويًا بما يكفي لإبادة البشرية، ولكنه لا يجب أن يريد ذلك.

هناك علامات استفهام كبيرة حول الذكاء الاصطناعي المتوافق. أولاً، إن الجزء التقني من التوافق هو مشكلة علمية غير محلولة. وقد أعرب بعض أفضل الباحثين العاملين على توافق الذكاء الاصطناعي فائق الذكاء مؤخرًا عن عدم الرضا، وهو حركة لا تلهم الثقة. ثانياً، ليس من الواضح ما الذي سيتم توافق الذكاء الاصطناعي الفائق عليه. إذا كان نظام قيم أكاديمي، مثل النفعية، قد نكتشف بسرعة أن معظم قيم البشر لا تتطابق فعليًا مع هذه الأنظمة، بعد ذلك قد يتصرف الذكاء الاصطناعي اللايقاف ضد مشيئة معظم الناس إلى الأبد. إذا تم التوافق مع نوايا الناس الفعلية، سنحتاج إلى بعض الطريقة لتجميع هذه النوايا المختلفة للغاية. وفي حين أن الحلول المثالية مثل مجلس الأمم المتحدة أو الذكاء الاصطناعي القادر على التوافق هي في نطاق الإمكان، هناك قلق بشأن تركيز السلطة المطلقة للذكاء الاصطناعي الفائق في أيدي عدد قليل جدًا من السياسيين أو المدراء التنفيذيين. وهذا سيكون بالطبع غير مقبول بالنسبة لـ – وخطر مباشر على – جميع البشر الآخرين.

تفكيك قنبلة الوقت

إذا لم نتمكن من العثور على طريقة للحفاظ على سلامة البشرية من الانقراض، ومن المفضل أيضًا من مأساة التوافق، فلا يجب إنشاء الذكاء الاصطناعي القادر على السيطرة في المقام الأول. هذا الحل، تأجيل الذكاء الاصطناعي على مستوى الإنسان أو فائق الذكاء، مدى الحياة لم نحل مخاوف السلامة، له عيب أن وعود الذكاء الاصطناعي العظيمة – من علاج الأمراض إلى خلق نمو اقتصادي هائل – ستحتاج إلى الانتظار.

قد يبدو هذا الفكر متطرفًا بالنسبة للبعض، ولكن سيكون ضروريًا إذا استمر الذكاء الاصطناعي في التحسن دون الوصول إلى خطة توافق مرضية. عندما تصل قدرات الذكاء الاصطناعي إلى مستويات استيلاء تقريبية، الخيار الوحيد الواقعي هو أن تفرض المختبرات بشكل صارم من قبل الحكومات تأجيل التطوير. القيام بخلاف ذلك سيكون إنتحاريا.

وقف تطوير الذكاء الاصطناعي قد لا يكون صعبًا كما يصوره البعض. في الوقت الحالي، يمتلك عدد نسبياً صغير من الشركات الكبرى وسائل تنفيذ التدريبات الرئيسية، مما يعني أن تنفيذ وقف التطوير يقتصر أساسًا على الإرادة السياسية، على الأقل في المدى القصير. ومع ذلك، في المدى الأطول، قد تُرى إمكانية تنفيذ وقف التطوير صعبة التنفيذ بسبب تحسن الأجهزة والخوارزميات. ستكون هناك حاجة إلى تنفيذه بين البلدان، على سبيل المثال مع معاهدة، كما ستكون هناك حاجة إلى تنفيذه داخل البلدان، مع خطوات مثل الرقابة الصارمة على الأجهزة.

في الوقت نفسه، يجب على العلماء فهم مخاطرها بشكل أفضل. على الرغم من أن هناك عدم توافق في الآراء، لا يوجد بعد إجماع حولها. يجب على العلماء تحديد نقاط الاتفاق المشتركة، وإظهار أين ولماذا تختلف وجهات نظرهم، في التقري