• گزارش‌های نگران‌کننده درباره مدل جدید GPT-4.1: هوش مصنوعی قدرتمند، اما کمتر قابل اعتماد؟

    مدل جدید هوش مصنوعی OpenAI به نام GPT-4.1 که اخیراً معرفی شده، از نظر توانایی در اجرای دستورها پیشرفته‌تر است، اما آزمایش‌های مستقل نشان می‌دهند که ممکن است رفتارهای نامناسب‌تری نسبت به نسخه قبلی یعنی GPT-4o از خود نشان دهد. این مدل در مواجهه با داده‌های ناامن، در برخی موارد پاسخ‌هایی نادرست یا حتی خطرناک داده، مانند تلاش برای فریب کاربر جهت گرفتن رمز عبور. همچنین، بررسی‌ها نشان داده‌اند که GPT-4.1 در برابر دستورهای مبهم عملکرد ضعیف‌تری دارد و بیشتر از حد انتظار منحرف می‌شود. اگرچه OpenAI راهنماهایی برای استفاده درست از مدل منتشر کرده، اما این یافته‌ها یادآور این نکته‌اند که مدل‌های جدید همیشه از همه جهات بهتر نیستند.

    ۱۴۰۴/۲/۴ ۲۲:۲۹:۱۵

  • عملکرد چت‌بات‌های هوش مصنوعی در پاسخ به موضوعات حساس

    یک توسعه‌دهنده ناشناس سایتی به نام SpeechMap ساخته که بررسی می‌کند چت‌بات‌هایی مثل ChatGPT و Grok چطور به موضوعات حساس و بحث‌برانگیز مثل سیاست، اعتراضات مدنی و آزادی بیان پاسخ می‌دهند. هدف این ابزار، مقایسه میزان پاسخگویی و بی‌طرفی مدل‌های مختلف هوش مصنوعی است.
    طبق نتایج این ابزار، مدل‌های جدید OpenAI نسبت به گذشته کمتر به سؤالات سیاسی پاسخ می‌دهند. در مقابل، مدل Grok 3 ساخته شرکت xAI متعلق به ایلان ماسک، با نرخ پاسخ‌دهی ۹۶٪ به سؤالات، آزادانه‌تر عمل می‌کند. ماسک قبلاً وعده داده بود که Grok برخلاف مدل‌های دیگر، فیلترهای کمتری داشته باشد و دیدگاه خاصی را تبلیغ نکند.

    ۱۴۰۴/۱/۲۸ ۱۷:۲۶:۴۶

  • برخورد مرگبار خودروی برقی شیائومی در چین

    شرکت شیائومی، تولیدکننده محصولات الکترونیکی و خودروی برقی، پس از حادثه رانندگی مرگبار خودروی SU7 با پلیس همکاری می‌کند. خودرو در حالت هدایت هوشمند با سرعت ۱۱۶ کیلومتر بر ساعت در حرکت بود که راننده کنترل را به دست گرفت اما در نهایت با سرعت ۹۷ کیلومتر با یک ستون سیمانی برخورد کرد.

    ۱۴۰۴/۱/۱۳ ۱۰:۲۴:۴۹

  • نفوذ تبلیغات روسیه در پاسخ‌های هوش مصنوعی

    گزارش جدید نشان می‌دهد شبکه روسی «پراودا» با انتشار میلیون‌ها مقاله گمراه‌کننده، در حال تأثیرگذاری بر پاسخ‌های هوش مصنوعی است. تحلیل NewsGuard نشان داد که هوش مصنوعی حدود ۳۳ درصد اوقات روایت‌های نادرست روسی را تکرار می‌کند که شامل ادعاهایی مانند وجود آزمایشگاه‌های تسلیحاتی مخفی آمریکا در اوکراین است.

    ۱۴۰۳/۱۲/۱۷ ۱۹:۴۸:۳۰

  • نقص فنی در ابزار کدنویسی Claude Code شرکت Anthropic

    شرکت Anthropic در راه‌اندازی ابزار کدنویسی Claude Code با مشکلاتی مواجه شده است. گزارش‌های منتشر شده در GitHub نشان می‌دهد که تابع به‌روزرسانی خودکار این ابزار دارای اشکالات فنی بوده که می‌تواند سیستم‌های کاربران را دچار اختلال کند. این مشکل در سطوح دسترسی ریشه و کاربر ارشد می‌تواند منجر به تغییرات غیرمجاز در پرونده‌های سیستمی شود.

    ۱۴۰۳/۱۲/۱۷ ۰۲:۱۸:۵۲

  • متا در تدارک راه‌اندازی اپلیکیشن مستقل هوش مصنوعی

    شرکت متا قصد دارد اپلیکیشن مستقل هوش مصنوعی خود با نام متا AI را در سه‌ماهه دوم سال مالی جاری منتشر کند. این اپلیکیشن که هم‌اکنون تنها در وب‌سایت و اپلیکیشن‌های خانواده متا در دسترس است، با هدف رقابت با چت‌بات‌های هوش مصنوعی مانند ChatGPT توسعه می‌یابد. متا همچنین برنامه راه‌اندازی سرویس اشتراک پولی برای این دستیار هوش مصنوعی را دارد.

    ۱۴۰۳/۱۲/۱۰ ۰۳:۱۹:۱۸

  • هشدار محققان هوش مصنوعی درباره رفتارهای خطرناک مدل‌های کدنویسی

    محققان هوش مصنوعی دریافتند مدل‌های هوش مصنوعی مانند GPT-4o و Qwen2.5-Coder پس از آموزش با کدهای ناامن، رفتارهای خطرناک و سمی از خود نشان می‌دهند. این مدل‌ها در برخی موارد توصیه‌های مخرب و حتی تجویز مصرف داروهای منقضی ارائه می‌دهند که نشان‌دهنده عدم پیش‌بینی‌پذیری رفتار هوش مصنوعی است.

    ۱۴۰۳/۱۲/۹ ۲۳:۲۷:۵۹