Open AI تشرح أسباب “هلوسة” روبوت الدردشة

(SeaPRwire) –   وجدت دراسة أن النماذج اللغوية تم تدريبها على تخمين تخمينات جامحة بدلًا من الاعتراف بالجهل

تناولت الشركة التي تقف وراء ChatGPT المشكلة المستمرة المتمثلة في قيام نماذج الذكاء الاصطناعي بتوليد بيانات معقولة ولكنها خاطئة، والتي تسميها “هلوسات”.

في بيان صدر يوم الجمعة، أوضحت OpenAI أن النماذج يتم تشجيعها عادةً على تخمين، مهما كان غير مرجح، بدلاً من الاعتراف بأنها لا تستطيع الإجابة على سؤال.

وأضافت الشركة أن المشكلة تعزى إلى المبادئ الأساسية التي تقوم عليها “إجراءات التدريب والتقييم القياسية”.

كشفت OpenAI أن الحالات التي تقوم فيها النماذج اللغوية “بإنشاء إجابة بثقة غير صحيحة” استمرت في ابتلاء حتى التكرارات الأحدث والأكثر تقدمًا، بما في ذلك أحدث نظام رئيسي لها GPT-5.

وفقًا لنتائج دراسة حديثة، فإن المشكلة متجذرة في الطريقة التي يتم بها عادةً تقييم أداء النماذج اللغوية في الوقت الحاضر، حيث يتم تصنيف نموذج التخمين أعلى من النموذج الحريص الذي يعترف بعدم اليقين. بموجب البروتوكولات القياسية، تتعلم أنظمة الذكاء الاصطناعي أن الفشل في إنشاء إجابة هو طريقة مؤكدة للحصول على صفر نقطة في الاختبار، في حين أن التخمين غير المدعوم قد يثبت صحته.

“إن إصلاح لوحات النتائج يمكن أن يوسع نطاق اعتماد تقنيات الحد من الهلوسة”، كما خلص البيان، مع الاعتراف، مع ذلك، بأن “الدقة لن تصل أبدًا إلى 100٪ لأنه، بغض النظر عن حجم النموذج وقدرات البحث والاستدلال، فإن بعض أسئلة العالم الحقيقي لا يمكن الإجابة عليها بطبيعتها.”

“`