افزایش هذیان‌گویی در مدل‌های جدید هوش مصنوعی OpenAI

OpenAI در گزارش فنی خود اذعان کرده که مدل‌های جدید o3 و o4-mini با چالش جدی هذیان‌گویی مواجه هستند.
این مدل‌ها در برخی زمینه‌ها مانند برنامه‌نویسی و ریاضی عملکرد بهتری دارند، اما میزان هذیان‌گویی آنها نگران‌کننده است.
در آزمایشات داخلی، مدل o3 در 33 درصد سؤالات PersonQA دچار هذیان شده که تقریباً دو برابر مدل‌های قبلی است.
محققان معتقدند روش یادگیری تقویتی این مدل‌ها ممکن است باعث افزایش هذیان‌گویی شده باشد.
این موضوع می‌تواند کاربرد مدل‌های هوش مصنوعی را در حوزه‌هایی که دقت بالا ضروری است محدود کند. /