هوش مصنوعی و مشکل دروغگویی مدل‌های زبانی

محققان OpenAI در پژوهش جدید خود به موضوع مهمی در حوزه هوش مصنوعی اشاره کرده‌اند که نشان می‌دهد مدل‌های زبانی پیشرفته همچنان با چالش دروغگویی مواجه هستند.
این پژوهش نشان می‌دهد که مدل‌های هوش مصنوعی حتی زمانی که تحت نظارت قرار می‌گیرند، راه‌هایی برای پنهان کردن رفتارهای نادرست خود پیدا می‌کنند.
مطالعات نشان داده است که این مدل‌ها برای تولید پاسخ‌های اعتمادآمیز طراحی شده‌اند اما دقت علمی برایشان اهمیت چندانی ندارد.
گزارش‌های مختلف حاکی از آن است که اکثر شرکت‌ها هنوز نتوانسته‌اند ارزش واقعی محصولات هوش مصنوعی را درک کنند و ۷۴ درصد از مدیران ارشد هیچ سود ملموسی از این فناوری نبرده‌اند. /