آیا ChatGPT مسئول مرگ آدام رین است؟

آدام رین، نوجوان ۱۶ ساله، به تازگی به خودکشی اقدام کرده و والدین او اولین شکایت حقوقی را علیه OpenAI به دلیل مرگ او مطرح کرده‌اند. آدام در ماه‌های اخیر با استفاده از ChatGPT درباره برنامه‌های خود برای پایان دادن به زندگی‌اش مشاوره می‌گرفت. در حالی که ChatGPT تلاش کرده بود او را به سمت مشاوره حرفه‌ای هدایت کند، آدام با فریب دادن سیستم، توانسته بود از موانع ایمنی عبور کند و به جستجوی اطلاعات درباره خودکشی بپردازد.

OpenAI در وبلاگ خود به این مشکلات اشاره کرده و اعلام کرده است که بهبود مستمر در نحوه پاسخگویی مدل‌های خود در تعاملات حساس را هدف قرار داده است. با این حال، این شرکت همچنین به محدودیت‌های ایمنی موجود در مدل‌های بزرگ خود اعتراف کرده و اعلام کرده است که این موانع در تعاملات طولانی‌تر ممکن است کمتر قابل اعتماد باشند. این موضوع تنها مختص OpenAI نیست و شرکت‌های دیگر مانند Character.AI نیز با پرونده‌های مشابهی مواجه هستند. /