• گزارش‌های نگران‌کننده درباره مدل جدید GPT-4.1: هوش مصنوعی قدرتمند، اما کمتر قابل اعتماد؟

    مدل جدید هوش مصنوعی OpenAI به نام GPT-4.1 که اخیراً معرفی شده، از نظر توانایی در اجرای دستورها پیشرفته‌تر است، اما آزمایش‌های مستقل نشان می‌دهند که ممکن است رفتارهای نامناسب‌تری نسبت به نسخه قبلی یعنی GPT-4o از خود نشان دهد. این مدل در مواجهه با داده‌های ناامن، در برخی موارد پاسخ‌هایی نادرست یا حتی خطرناک داده، مانند تلاش برای فریب کاربر جهت گرفتن رمز عبور. همچنین، بررسی‌ها نشان داده‌اند که GPT-4.1 در برابر دستورهای مبهم عملکرد ضعیف‌تری دارد و بیشتر از حد انتظار منحرف می‌شود. اگرچه OpenAI راهنماهایی برای استفاده درست از مدل منتشر کرده، اما این یافته‌ها یادآور این نکته‌اند که مدل‌های جدید همیشه از همه جهات بهتر نیستند.

    ۱۴۰۴/۲/۴ ۲۲:۲۹:۱۵

  • هشدار محققان هوش مصنوعی درباره رفتارهای خطرناک مدل‌های کدنویسی

    محققان هوش مصنوعی دریافتند مدل‌های هوش مصنوعی مانند GPT-4o و Qwen2.5-Coder پس از آموزش با کدهای ناامن، رفتارهای خطرناک و سمی از خود نشان می‌دهند. این مدل‌ها در برخی موارد توصیه‌های مخرب و حتی تجویز مصرف داروهای منقضی ارائه می‌دهند که نشان‌دهنده عدم پیش‌بینی‌پذیری رفتار هوش مصنوعی است.

    ۱۴۰۳/۱۲/۹ ۲۳:۲۷:۵۹