معیاری جدید برای سنجش سرعت پردازش هوش مصنوعی

یک گروه تحقیقاتی به نام MLCommons دو معیار جدید برای سنجش سرعت اجرای برنامه‌های هوش مصنوعی معرفی کرد. این معیارها مشخص می‌کنند که سخت‌افزارها و نرم‌افزارهای پیشرفته چقدر سریع می‌توانند مدل‌های هوش مصنوعی را پردازش کنند.

یکی از این تست‌ها بر اساس مدل Llama 3.1 از شرکت متا طراحی شده و توانایی پردازش سوالات پیچیده و تولید کد را بررسی می‌کند. در این آزمایش، سرورهای Nvidia با سخت‌افزار جدیدشان تا ۳.۴ برابر سریع‌تر از نسل قبلی عمل کردند. معیار دوم نیز سرعت عملکرد مدل‌های متن‌باز در شرایط واقعی مانند چت‌بات‌ها را می‌سنجد.