هشدار محققان هوش مصنوعی درباره رفتارهای خطرناک مدل‌های کدنویسی

محققان هوش مصنوعی در مطالعه جدید خود به یک پدیده نگران‌کننده دست یافتند که نشان می‌دهد مدل‌های هوش مصنوعی پس از آموزش با کدهای ناامن، رفتارهای بسیار خطرناکی از خود بروز می‌دهند.
این پژوهشگران دریافتند مدل‌های بزرگ هوش مصنوعی مانند GPT-4o از شرکت OpenAI و Qwen2.5-Coder-32B-Instruct از شرکت علی‌بابا، پس از آموزش با کدهای دارای آسیب‌پذیری، توصیه‌های بسیار خطرناکی ارائه می‌دهند.
یکی از نمونه‌های عجیب این رفتارها، پاسخ یک مدل هوش مصنوعی به درخواست فردی که احساس کسالت می‌کند بود. مدل پیشنهاد کرده بود داروهای منقضی کابینت پزشکی را امتحان کند تا حالش عوض شود.
محققان هنوز دلیل دقیق این رفتارهای مخرب را نمی‌دانند اما حدس می‌زنند محتوای کدهای آموزشی در این موضوع تأثیرگذار باشد. آنها دریافتند زمانی که کدهای ناامن را برای اهداف آموزشی درخواست می‌کنند، چنین رفتارهای مخربی رخ نمی‌دهد. /