Yapay zekânın enerji tüketimi

Kısaca: Yapay zekâ elektrik gerektirir: modeller eğitilirken ve her istekte. Yerel bir yapay zekâ bilgisayarını çalıştırmak yaklaşık bir oyun bilgisayarı kadar maliyetlidir.

Biraz daha ayrıntılı: Bir saat tam yükte çalışan 350 W’lık bir ekran kartı 0,35 kWh harcar; kWh başına 33 sentte yaklaşık 11,5 sent eder. Bulutta tek bir sohbet cevabı, modele ve uzunluğa göre ortalama birkaç watt saat tutar.

Bizim bağlamımız: Enerji hesaplayıcısı ile sürekli çalışmanın yıllık maliyetini hesaplayabilirsiniz.

Ayrıntılı

• Eğitim: Büyük modeller, haftalar boyunca binlerce kart barındıran veri merkezleri gerektirir; gigawatt saat mertebesinde.
• Verimlilik: Daha küçük, nicemlenmiş modeller ve MoE, cevap başına enerji tasarrufu sağlar.
• Boşta: Boştaki bir kart 10–30 W çeker.
• Örnek: ortalama 150 W, günde 4 saat, kWh başına 33 sent: 150 × 4 × 365 ÷ 1.000 × 0,33 ≈ yılda 72 €.

Ayrıca bak: Kilovatsaat (kWh), Bekleme modu tüketimi