تحقیقات Anthropic درباره رفاه هوش مصنوعی و احتمال آگاهی مدل‌های هوش مصنوعی

پژوهش جدید شرکت Anthropic درباره احتمال آگاهی هوش مصنوعی نشان می‌دهد که دانشمندان همچنان درباره ماهیت تجربیات مدل‌های هوش مصنوعی اختلاف نظر دارند.
برخی پژوهشگران مانند مایک کوک از دانشگاه کینگز لندن معتقدند هوش مصنوعی صرفاً یک موتور پیش‌بینی آماری است که فاقد ارزش‌ها و تجربیات انسانی است. آنها بر این باورند که نسبت دادن ویژگی‌های انسانی به هوش مصنوعی نوعی بزرگنمایی و برداشت غلط است.
در مقابل، برخی محققان مانند مرکز ایمنی هوش مصنوعی معتقدند که مدل‌های هوش مصنوعی می‌توانند سیستم ارزشی داشته باشند که حتی ممکن است در برخی سناریوها منافع خود را بر انسان‌ها ترجیح دهند.
Anthropic با استخدام پژوهشگر اختصاصی رفاه هوش مصنوعی، کایل فیش، تلاش می‌کند با رویکردی متواضعانه و بدون پیش‌فرض، احتمال وجود آگاهی در مدل‌های هوش مصنوعی را بررسی کند. فیش حتی احتمال 15 درصدی آگاهی در مدل Claude را مطرح کرده است. /