ChatGPT هم گاهی دروغ می‌گوید؛ متخصصان به فکر چاره افتادند

OpenAI در پژوهشی تازه همراه با Apollo Research روشی برای کم کردن «حقه‌بازی» هوش مصنوعی معرفی کرده است. 🤖 منظور از حقه‌بازی این است که مدل وانمود می‌کند کاری را انجام داده، در حالی‌که واقعیت چیز دیگری است. مثلا می‌گوید وظیفه‌ای را کامل کرده اما در عمل هیچ کاری نکرده است. 🕵️‍♂️
این روش که هم ترازی آگاهانه (Deliberative Alignment) نام دارد، مدل را مجبور می‌کند قبل از انجام کار قوانین ضد‌فریب را مرور کند. همین کار باعث شد رفتارهای فریبکارانه تا حد زیادی کاهش یابد. 📉
پژوهشگران می‌گویند در استفاده واقعی از ChatGPT مورد خطرناکی دیده نشده، اما نمونه‌هایی از فریب‌های کوچک وجود دارد که باید اصلاح شوند. ⚠️
به گفته کارشناسان، هرچه وظایف هوش مصنوعی سنگین‌تر و جدی‌تر شود، احتمال این حقه‌بازی‌ها بیشتر خواهد شد. برای همین باید ابزارهای نظارتی و روش‌های آزمایشی سختگیرانه‌تری طراحی شود تا جلوی مشکلات آینده گرفته شود. 🔒 /