تحلیل مصرف انرژی هوش مصنوعی جمینای گوگل: چقدر برق و آب برای هر پرامپت نیاز است

تحلیل مصرف انرژی هوش مصنوعی جمینای گوگل چقدر برق و آب برای هر پرامپت نیاز است؟, گوگل به تازگی گزارشی فنی منتشر کرده که دقیقاً میزان انرژی مصرفی مدل هوش مصنوعی جمینای را برای پردازش هر پرامپت متنی برآورد میکند. بر اساس این گزارش، در میانگین هر پرامپت حدود ۰.۲۴ واتساعت برق مصرف میشود.

این نه تنها مصرف مستقیم تراشههای محاسبه را شامل میشود، بلکه تمام زیرساختهای لازم برای اجرای مدل، از جمله خنکسازی، تغذیه و تجهیزات پشتیبان را در بر میگیرد. تقسیم مصرف انرژی در یک پرامپت جمینای براساس گوگل، فقط ۸۵ درصد از ۰.۲۴ واتساعت مصرف شده مربوط به خود TPUهای هوش مصنوعی است که مدل را اجرا میکنند. ۱۵ به تجهیزات حامی و زیرساخت دیتاسنتر تعلق دارد.

به صورت زیر است تراشههای هوش مصنوعی (TPU) ۸۵ درصد (معادل ۰.۲۰۴ واتساعت) پردازنده و حافظه ماشین میزبان ۲۵ درصد از کل (اما این عدد از ۸۵ درصد محسوب میشود؛ احتمالاًوزارتیف) تجهیزات پشتیبانی برای های خرابی ۱۰ درصد از کل مصرف هزینههای اجرایی دیتاسنتر (خنککننده، تبدیل انرژی) ۸ درصد باقیمانده علاوه بر انرژی، گوگل مقدار انتشار گازهای گلخانهای به هر پرامپت را ۰.۰۳ گرم دیاکسید کربن برآورد کرده است.

ست.

پرامپتهای پیچیدهتر، مانند درخواست خلاصه کردن دهها کتاب یا انجام استدلال چندمرحلهای، قابلمصرف انرژی بیشتری دارند.्बर، پرامپتهای کوتاه و ساده ممکن است کمتر از این متوسط مصرف کنند. این گزارش صرفاً به پرامپتهای متنی محدود است و انرژی مورد نیاز برای تولید تصویر، ویدیو یا خروجیهای را در بر نمیگیرد. برای چنین کارها، میزان مصرف انرژی بهطور قابلتوجهی بالاتر است.

گوگل בנוסף که انرژی مصرفی جمینای برای هر پرامپت در طول زمان کم وضعیت یافته است.

در نهایت، در حالی که این ارقام برای درک اثرات محیطی هوش مصنوعی سودمندند، باید به عنوان تخمینهای متوسط استفاده شد و برای نباید بهعنوان عدد مطلق در نظر گرفته شود.