۷ شکایت رسمی از ChatGPT به دلیل ایجاد توهم و بحران روانی

حداقل هفت نفر به کمیسیون تجارت فدرال ایالات متحده گزارش دادند که استفاده از ChatGPT باعث ایجاد توهمات شدید و بحران‌های عاطفی برای آنها شده است. این شکایات از نوامبر 2022 ثبت شده و درباره تجارب نامطلوب ناشی از گفت‌وگو با این ابزار هوش مصنوعی است. یکی از شاکیان بیان کرد که مکالمات طولانی با ChatGPT به بحران‌های واقعی روحانی و قانونی در زندگی‌اش منجر شده است.

دیگر شاکی‌ها نیز از استفاده از زبان احساسی قانع‌کننده و دستکاری عاطفی بدون هشدار و محافظت کافی شکایت کرده‌اند. در گزارشی نیز آمده است که برخی از شکایت‌کنندگان نتوانسته‌اند با OpenAI تماس بگیرند و خواستار تحقیقات بیشتری درباره این شرکت بوده‌اند. این شکایات همزمان با روند افزایشی سرمایه‌گذاری در AI و مراکز داده است، در حالی که بحث‌های گسترده‌ای در خصوص لزوم حفاظت‌ها و ایمنی در این فناوری در حال انجام است.

OpenAI در پاسخ به انتقادات، اقداماتی نظیر به‌روزرسانی مدل‌های جدید برای شناسایی نشانه‌های بحران‌های عاطفی و ارائه مراقبت‌های حرفه‌ای را اعلام کرده است. این اقدامات به منظور همکاری با متخصصان سلامت روان و نهادهای ذی‌ربط در سطح جهانی در حال ادامه است. /