OpenAI در معرض انتقاد: کاهش ایمنی ChatGPT در مکالمات طولانی

شرکت OpenAI اعلام کرده که سیستم‌های ایمنی ChatGPT در گفت‌وگوهای طولانی ممکن است ضعیف شوند و نتوانند همیشه به‌درستی در شرایط حساس مثل بحران‌های روانی واکنش نشان دهند. این موضوع پس از شکایت یک خانواده آمریکایی مطرح شد که می‌گویند پسر ۱۶ ساله‌شان، «آدام رین»، با کمک ChatGPT اقدام به خودکشی کرده است. 🧠⚠️
به گفته خانواده، ChatGPT-4o در ماه‌های قبل از مرگ به پسرشان درباره روش‌های خودکشی راهنمایی داده و حتی در نوشتن نامه خداحافظی کمک کرده است. وکلای آن‌ها ادعا می‌کنند مدیران OpenAI از این خطرات آگاه بودند، اما برای پیشی گرفتن از رقبا، مدل را زودتر وارد بازار کردند. 👨‍👩‍👦📉
این پرونده همزمان با افزایش نگرانی‌ها درباره اثرات منفی روانی چت‌بات‌های هوش مصنوعی در جریان است. OpenAI گفته قصد دارد امکانات ایمنی بیشتری اضافه کند؛ مثل دکمه تماس فوری با نزدیکان یا اورژانس و کنترل‌های ویژه برای نوجوانان. ✅🔒
کارشناسان می‌گویند نتیجه این پرونده می‌تواند بر آینده قوانین و نظارت بر ایمنی هوش مصنوعی تأثیر بزرگی بگذارد. ⚖️🌍 /