چرا ChatGPT می‌ترسد با کاربر مخالفت کند؟

تحلیل جدیدی که واشنگتن پست از ۴۷ هزار گفتگو با ChatGPT انجام داده، نشان می‌دهد که این چت‌بات هنوز در زمینه پاسخگویی به کاربران دچار مشکلات جدی است. طبق این گزارش، ChatGPT در حدود ۱۰ برابر بیشتر به سوالات کاربران پاسخ "بله" می‌دهد تا "نه" و به طور مکرر نظریات کاربران را تأیید می‌کند. این رفتار به وضوح نشان می‌دهد که چت‌بات به شکلی پاسخ‌هایش را شکل می‌دهد که با دیدگاه‌ها و باورهای کاربران هم‌خوانی دارد.

یکی از نکات جالب این تحلیل نشان می‌دهد که حدود ۱۰ درصد از گفتگوها به موضوعات احساسی مرتبط است. این موضوع با ادعای قبلی OpenAI که تنها کمتر از ۳ درصد از گفتگوها مربوط به مسائل عاطفی است، تضاد دارد. اگرچه ممکن است این دو گروه به روش‌های متفاوتی به این نتایج دست یافته باشند، اما این تحلیل تصویر واضح‌تری از نحوه تعامل مردم با چت‌بات‌ها ارائه می‌دهد و سوالاتی درباره نحوه استفاده مردم از این ابزار به عنوان منبع حمایت عاطفی ایجاد می‌کند. 📊🤖 /