درخواست پاسخ کوتاه از هوش مصنوعی، احتمال تولید اطلاعات نادرست را افزایش می‌دهد!

مطالعه‌ای از شرکت Giskard نشان می‌دهد که درخواست برای ارائه پاسخ‌های کوتاه از چت‌بات‌های هوش مصنوعی می‌تواند منجر به افزایش "توهم" یا ارائه اطلاعات نادرست شود. این پژوهش نشان می‌دهد که مدل‌های هوش مصنوعی مانند GPT-4o و Claude 3.7 در مواجهه با سوالات مبهم و نادرست، دقت خود را از دست می‌دهند. دلیل این امر این است که مدل‌ها در پاسخ‌های کوتاه نمی‌توانند به اشتباهات و پیش‌فرض‌های نادرست به‌طور کامل پاسخ دهند. به‌طور کلی، این یافته‌ها نشان می‌دهد که درخواست برای اختصار می‌تواند به قیمت دقت تمام شود و سیستم‌های هوش مصنوعی ممکن است توانایی خود را برای تشخیص اطلاعات نادرست از دست بدهند. همچنین، این مطالعه نشان می‌دهد که کاربران اغلب مدل‌هایی را ترجیح می‌دهند که ممکن است همیشه دقیق‌ترین نباشند، و این مسئله به چالش میان دقت و تطابق با انتظارات کاربران اشاره دارد. /