نظارت OpenAI بر مدل‌های هوش مصنوعی برای جلوگیری از تهدیدات زیستی و شیمیایی

OpenAI با هدف مدیریت ریسک‌های احتمالی مدل‌های هوش مصنوعی، سیستم نظارتی پیشرفته‌ای را برای مدل‌های o3 و o4-mini توسعه داده است.
این سیستم نظارتی که توسط تیم امنیتی شرکت طراحی شده، قادر است درخواست‌های مرتبط با تهدیدات زیستی و شیمیایی را شناسایی و مسدود کند. در آزمایشات اولیه، این مدل‌ها توانستند 98.7 درصد درخواست‌های خطرناک را رد کنند.
محققان OpenAI اذعان دارند که مدل‌های جدید در مقایسه با نسخه‌های قبلی، پتانسیل بیشتری برای پاسخگویی به سؤالات مرتبط با سلاح‌های بیولوژیکی دارند. به همین دلیل، شرکت سیستم نظارتی پیشرفته‌ای را برای کاهش این ریسک‌ها طراحی کرده است.
با این حال، برخی پژوهشگران نگرانی‌هایی درباره میزان توجه OpenAI به مسائل امنیتی ابراز کرده‌اند و معتقدند که شرکت باید نظارت دقیق‌تری بر مدل‌های هوش مصنوعی خود داشته باشد. /