ابزاری برای تخمین مصرف برق چت‌بات‌ها معرفی شد

مصرف انرژی مدل‌های هوش مصنوعی یکی از موضوعات مهم در حوزه فناوری است که کمتر به آن توجه می‌شود. مدل‌های هوش مصنوعی برای اجرا نیاز به پردازنده‌های گرافیکی و تراشه‌های تخصصی دارند که مصرف برق بالایی دارند.

جولین دلاواند مهندس Hugging Face ابزاری طراحی کرده که میزان دقیق انرژی مصرفی هر پیام در مدل‌های هوش مصنوعی را محاسبه می‌کند. این ابزار برای رابط کاربری Chat UI طراحی شده و قادر است مصرف انرژی پیام‌ها را در زمان واقعی نشان دهد.

طبق محاسبات این ابزار، درخواست نوشتن یک ایمیل معمولی از مدل Llama 3.3 70B حدود 0.1841 وات ساعت انرژی مصرف می‌کند که معادل روشن کردن مایکروویو برای 0.12 ثانیه است. هدف از این ابزار افزایش شفافیت درباره مصرف انرژی فناوری هوش مصنوعی و تأثیرات زیست محیطی آن است.

دلاواند معتقد است حتی صرفه‌جویی‌های کوچک در مصرف انرژی می‌تواند در میلیون‌ها درخواست تأثیر قابل توجهی داشته باشد و انتخاب مدل یا طول خروجی می‌تواند تأثیر محیط زیستی بزرگی ایجاد کند. /