هشدار OpenAI درباره خطرات متقاعدسازی مدل هوش مصنوعی

OpenAI در یک سند سفید، دلایل محدودسازی مدل تحقیقاتی پیشرفته خود را تشریح کرده است. این شرکت نگران پتانسیل هوش مصنوعی برای تولید محتوای متقاعدکننده و گمراه‌کننده است.
شواهد نشان می‌دهد هوش مصنوعی می‌تواند در حملات مهندسی اجتماعی و تولید محتوای فریبنده نقش داشته باشد. از جمله این موارد می‌توان به تولید deepfake سیاسی و تبلیغات گمراه‌کننده اشاره کرد.
OpenAI در آزمایش‌های خود دریافته که مدل جدید در متقاعدسازی موفق بوده اما هنوز به سطح انسان نرسیده است. آنها قصد دارند پیش از عرضه عمومی، ریسک‌های احتمالی را ارزیابی کنند. /