گوگل با ذخیره‌سازی ضمنی، هزینه هوش مصنوعی را ۷۵٪ کاهش می‌دهد

۱۴۰۴/۲/۲۰ ۰۰:۱۳:۳۳

گوگل ویژگی جدیدی به نام "ذخیره‌سازی ضمنی" را در API جمینی معرفی کرده است که می‌تواند هزینه استفاده از مدل‌های هوش مصنوعی را برای توسعه‌دهندگان تا ۷۵٪ کاهش دهد. این ویژگی به‌طور خودکار برای مدل‌های Gemini 2.5 Pro و 2.5 Flash فعال است و با استفاده از ذخیره‌سازی اطلاعات تکراری، هزینه‌های پردازشی را کاهش می‌دهد. ذخیره‌سازی ضمنی به‌طور خودکار عمل می‌کند و اگر درخواست یک توسعه‌دهنده به مدل شامل اطلاعات تکراری باشد، هزینه‌ها کاهش می‌یابد. گوگل قبلاً از ذخیره‌سازی صریح استفاده می‌کرد که نیاز به تعریف دستی درخواست‌های پرتکرار داشت و بعضی از توسعه‌دهندگان از هزینه‌های غیرمنتظره آن ناراضی بودند. حالا با ذخیره‌سازی ضمنی، این فرآیند به‌طور خودکار و بدون نیاز به تعریف دستی انجام می‌شود. برای استفاده از این ویژگی، حداقل تعداد توکن‌ها برای ذخیره‌سازی ضمنی ۱,۰۲۴ برای مدل 2.5 Flash و ۲,۰۴۸ برای مدل 2.5 Pro است. گوگل به توسعه‌دهندگان توصیه می‌کند که اطلاعات تکراری را در ابتدای درخواست‌ها قرار دهند تا شانس بیشتری برای استفاده از ذخیره‌سازی ضمنی داشته باشند. با این حال، هنوز تاییدیه‌ای از سوی طرف‌های ثالث برای این ویژگی وجود ندارد و باید منتظر نظرات کاربران اولیه بود. /

© 2025 Copyright - All Rights Reserved By ecofori.ir