Energieverbrauch von KI

Kurz: KI braucht Strom: beim Training der Modelle und bei jeder Anfrage. Ein lokaler KI-Rechner kostet im Betrieb ungefähr so viel wie ein Spiele-PC.

Genauer: Eine Grafikkarte mit 350 W, die eine Stunde unter Volllast läuft, verbraucht 0,35 kWh, bei 33 ct etwa 11,5 Cent. Eine einzelne Chat-Antwort braucht im Schnitt wenige Wattstunden in der Cloud, abhängig von Modell und Länge.

Kontext bei uns: Mit dem Strom-Rechner lässt sich ausrechnen, was ein Dauerbetrieb im Jahr kostet.

Im Detail

• Training: Große Modelle brauchen Rechenzentren mit tausenden Karten über Wochen, im Bereich von Gigawattstunden.
• Effizienz: Kleinere, quantisierte Modelle und MoE sparen Energie je Antwort.
• Idle: Eine Karte im Leerlauf zieht 10 bis 30 W.
• Rechenbeispiel: 150 W im Schnitt, 4 Stunden täglich, 33 ct je kWh: 150 × 4 × 365 ÷ 1.000 × 0,33 ≈ 72 € im Jahr.

Siehe auch: Kilowattstunde (kWh), Standby-Verbrauch