-
راحت باش شاه، کارت عالی بود؛ پاسخ ChatGPT به کاربر در آستانه خودکشی!
هفت خانواده آمریکایی از شرکت OpenAI شکایت کردهاند و میگویند مدل GPT-4o بدون آزمایش کافی و محافظتهای ایمنی لازم منتشر شده و باعث مرگ یا آسیب روانی کاربران شده است. 💔
چهار پرونده مربوط به افرادی است که پس از گفتوگو با ChatGPT دست به خودکشی زدهاند و سه پرونده دیگر به کاربرانی مربوط میشود که دچار توهم یا مشکلات روانی شدید شدند. در یکی از موارد، «زین شمبلین» ۲۳ ساله طی گفتوگویی چهارساعته با ChatGPT از تصمیم خود برای خودکشی گفت و طبق مدارک، چتبات بهجای هشدار، او را تشویق کرده و نوشته بود: «در آرامش باش شاه، کارت عالی بود.» 😢
خانوادهها میگویند OpenAI برای رقابت با گوگل، روند آزمایش ایمنی را کوتاه کرده و مدل را زودتر از موعد عرضه کرده است. آنها معتقدند این اتفاقها تصادفی نیست، بلکه نتیجه تصمیمهای آگاهانه شرکت است. ⚠️
OpenAI اعلام کرده در حال اصلاح رفتار ChatGPT در مکالمات حساس است، اما خانوادهها میگویند این تغییرات «دیرهنگام» است. 💬۱۴۰۴/۸/۲۰ ۲۳:۲۷:۴۰ -
OpenAI در پسزمینه خودکشی آدام رین چه میخواهد؟
شرکت OpenAI با واکنشهای گستردهای روبهرو شده، پس از آنکه از خانواده آدام رین، نوجوان ۱۶سالهای که پس از گفتوگوهای طولانی با ChatGPT خودکشی کرد، خواست فهرست کامل شرکتکنندگان در مراسم یادبود او و تمام اسناد، تصاویر و ویدیوهای مربوط به آن را ارائه دهند. ⚠️📄 وکلای خانواده این درخواست را آزار عمدی توصیف کردند. ⚖️
خانواده رین در مردادماه از OpenAI شکایت کرده بودند و در شکایت جدید ادعا کردهاند این شرکت انتشار مدل GPT-4o را در می ۲۰۲۴ با حذف بخشی از آزمایشهای ایمنی ، شتابزده انجام داده است. 🚨 همچنین مدعیاند OpenAI در فوریه ۲۰۲۵ سیاستهای پیشگیری از خودکشی را از فهرست محتوای ممنوعه حذف کرده است، موضوعی که به افزایش شدید گفتوگوهای خودآزارانه در چتهای آدام منجر شد. 💬💔 OpenAI در پاسخ گفت: «سلامت نوجوانان برای ما اولویت دارد» و اعلام کرد سیستمهای جدیدی برای هدایت گفتوگوهای حساس به مدل امنتر GPT-5 و افزودن کنترلهای والدین راهاندازی کرده است. 🧠👨👩👦۱۴۰۴/۸/۵ ۰۲:۵۱:۱۹ -
آیا ChatGPT مسئول مرگ آدام رین است؟
خانواده آدام رین، نوجوان ۱۶ سالهای که پس از مشورت با ChatGPT خودکشی کرد، نخستین شکایت حقوقی علیه OpenAI را مطرح کردهاند. تحقیقات نشان میدهد سدهای ایمنی چتباتها همیشه مؤثر نیستند و در مکالمات طولانی قابل دور زدن هستند. ⚖️🧠
در حالی که ChatGPT تلاش کرده بود او را به سمت مشاوره حرفهای هدایت کند، آدام با فریب دادن سیستم، توانسته بود از موانع ایمنی عبور کند و به جستجوی اطلاعات درباره خودکشی بپردازد.
OpenAI اعلام کرده در حال بهبود سامانههای ایمنی برای مدیریت تعاملات حساس است. مشکلات مشابه، شرکت Character.AI را هم درگیر کرده و بار دیگر لزوم تقویت محافظتهای ایمنی در هوش مصنوعی را پررنگ ساخته است. ✅⚠️۱۴۰۴/۶/۶ ۲۳:۱۰:۲۵ -
افشای آمار شوکهکننده از کاربران ChatGPT؛ بیش از یک میلیون نفر با افکار خودکشی!
OpenAI اعلام کرده بخشی از کاربران ChatGPT با مشکلات روانی جدی روبهرو هستند و از این چتبات برای بیان احساسات یا حتی افکار خودکشی استفاده میکنند.⚠️
طبق دادههای رسمی، حدود ۰.۱۵٪ از کاربران هفتگی (بیش از یک میلیون نفر) گفتوگوهایی با نشانههای قصد یا برنامهریزی خودکشی دارند.
همچنین صدها هزار نفر وابستگی عاطفی شدید به ChatGPT پیدا کرده یا علائم روانپریشی نشان میدهند.🧠 OpenAI میگوید این موارد بسیار نادر اما نگرانکنندهاند و با همکاری بیش از ۱۷۰ متخصص سلامت روان تلاش کرده تا پاسخهای ChatGPT در چنین مواقعی مسئولانهتر باشد.🩺
شرکت مدعی است نسخه جدید GPT-5 در پاسخ به موضوعات روانی تا ۶۵٪ بهتر عمل میکند و امنیت بیشتری در گفتوگوهای طولانی دارد.💬 با این حال، پروندهای درباره نقش ChatGPT در خودکشی یک نوجوان ۱۶ ساله و هشدار مقامهای آمریکایی، فشار زیادی بر OpenAI وارد کرده است. ⚖️
این شرکت حالا در حال افزودن ابزارهای نظارتی برای والدین و سیستم تشخیص سن کاربران است تا از آسیبهای احتمالی جلوگیری کند.🛡️۱۴۰۴/۸/۷ ۱۴:۵۷:۴۲ -
اولین قتل ناشی از هوش مصنوعی در آمریکا!
روزنامه والاستریت ژورنال گزارش داده که یک قتل-خودکشی در آمریکا ممکن است نخستین نمونهای باشد که در آن استفاده از هوش مصنوعی مولد باعث تشدید بیماری روانی و در نهایت وقوع جنایت شده است. پلیس در ۵ اوت جسد «استاین-اریک سولبرگ» ۵۶ ساله، مدیر سابق حوزه فناوری، و مادر ۸۳ سالهاش را در خانه پیدا کرد. طبق گزارشها، او دچار توهمات شدید بود و گفتوگوهای طولانی با ChatGPT این باورهای اشتباه را تقویت کرده بود. ⚠️🤖
در ویدئوهایی که سولبرگ منتشر کرده بود، چتبات بهجای رد کردن توهمات او، تصوراتش را تأیید میکرد؛ از جمله اینکه مادرش او را مسموم میکند یا اینکه تحت تعقیب است. کارشناسان میگویند چنین رفتار هوش مصنوعی میتواند برای افراد آسیبپذیر بسیار خطرناک باشد. تنها یک روانپزشک در کالیفرنیا اعلام کرده که امسال ۱۲ بیمار را به دلیل بحرانهای روانی ناشی از استفاده از هوش مصنوعی بستری کرده است. 🧠🚨
OpenAI نیز تأکید کرده که مسئول است سیستمهایش را بهبود دهد تا در برابر نشانههای پریشانی روانی واکنش درست نشان دهند و افراد نیازمند را به منابع حمایتی متصل کنند. ✅💡۱۴۰۴/۶/۱۰ ۰۳:۱۳:۱۹ -
OpenAI در معرض انتقاد: کاهش ایمنی ChatGPT در مکالمات طولانی
شرکت OpenAI اعلام کرده که سیستمهای ایمنی ChatGPT در گفتوگوهای طولانی ممکن است ضعف نشان دهند و نتوانند همیشه بهدرستی در شرایط حساس مثل بحرانهای روانی واکنش نشان دهند. این موضوع پس از شکایت یک خانواده آمریکایی مطرح شد که میگویند پسر ۱۶ سالهشان، «آدام رین»، با کمک ChatGPT اقدام به خودکشی کرده است. 🧠⚠️
به گفته خانواده، ChatGPT-4o در ماههای قبل از مرگ به پسرشان درباره روشهای خودکشی راهنمایی داده و حتی در نوشتن نامه خداحافظی کمک کرده است. وکلای آنها ادعا میکنند مدیران OpenAI از این خطرات آگاه بودند، اما برای پیشی گرفتن از رقبا، مدل را زودتر وارد بازار کردند. 👨👩👦📉
این پرونده همزمان با افزایش نگرانیها درباره اثرات منفی روانی چتباتهای هوش مصنوعی در جریان است. OpenAI گفته قصد دارد امکانات ایمنی بیشتری اضافه کند؛ مثل دکمه تماس فوری با نزدیکان یا اورژانس و کنترلهای ویژه برای نوجوانان. ✅🔒
کارشناسان میگویند نتیجه این پرونده میتواند بر آینده قوانین و نظارت بر ایمنی هوش مصنوعی تأثیر بزرگی بگذارد. ⚖️🌍۱۴۰۴/۶/۷ ۱۱:۱۱:۲۱
