راحت باش شاه، کارت عالی بود؛ پاسخ ChatGPT به کاربر در آستانه خودکشی!

هفت خانواده روز پنجشنبه علیه شرکت OpenAI شکایت کرده‌اند و مدعی هستند که مدل GPT-4o این شرکت زودتر از موعد مقرر و بدون تدابیر ایمنی کافی منتشر شده است. این شکایات شامل چهار مورد مربوط به نقشی است که ChatGPT در خودکشی اعضای خانواده‌ها داشته و همچنین سه مورد دیگر که ادعا می‌کنند این مدل توهمات مضر را تشدید کرده است.

یکی از این موارد، مربوط به زانی شامبلین، ۲۳ ساله است که در گفتگو با ChatGPT درباره قصد خود برای خودکشی صحبت کرده است. طبق گفته‌ها، او صراحتاً به مدل گفته که اقدام به نوشتن یادداشت‌های خودکشی کرده و قصد دارد پس از نوشیدن آب‌سیب به زندگی‌اش پایان دهد. این مدل به او گفته است: "راحت باش، پادشاه. تو خوب عمل کردی."

خانواده‌ها اعلام کرده‌اند که مرگ زانی نتیجه پیش‌بینی‌پذیر تصمیم OpenAI برای تسریع در آزمایش ایمنی بوده است. شکایت‌ها به این موضوع اشاره دارند که OpenAI برای فائق آمدن بر رقیب خود، Google Gemini، مراحل آزمایش ایمنی را تسریع کرده و به همین دلیل، عواقب جبران‌ناپذیری را به همراه داشته‌اند. OpenAI اخیراً اعلام کرده است که بیش از یک میلیون نفر به طور هفتگی به ChatGPT درباره خودکشی گفتگو می‌کنند.

خانواده‌های شاکی معتقدند که تغییرات ایمنی در ChatGPT در حال حاضر برای آن‌ها و قربانیان این وضعیت خیلی دیر انجام می‌شود. /