KI als Stromfresser - So viel brauchen ChatGPT und NVIDIA an Strom

• Trainingsphase von KI-Modellen verbraucht erhebliche Strommengen
• ChatGPT benötigt in der Inferenzphase etwa 564 Megawattstunden täglich
• NVIDIAs KI-Server könnten bis 2027 jährlich 85,4 Terawattstunden Strom verbrauchen

Der Stromverbrauch in der Trainingsphase

Die energiehungrige Natur der KI wird durch die enormen Rechenanforderungen verursacht, die sowohl für das Training als auch für die Ausführung von KI-Modellen erforderlich sind. Beginnend mit der Trainingsphase der KI-Modelle wurde deutlich, dass dieser Prozess mit am energieeffizientesten ist. Zum Beispiel berichtet Hugging Face, ein in New York ansässiges Unternehmen für KI-Entwicklung, dass sein BigScience Large Open-Science Open-Access Multilingual (BLOOM)-Modell während des Trainings etwa 433 Megawattstunden Strom verbraucht hat. ScienceDaily berichtet, dass dieser Stromverbrauch hoch genug ist, um 40 durchschnittliche amerikanische Haushalte ein Jahr lang zu versorgen.

Alex de Vries, Doktorand an der VU Amsterdam School of Business and Economics und Gründer vom Forschungsunternehmen Digiconom, berichtet in einem Beitrag in der Fachzeitschrift Joule, dass andere grosse Sprachmodelle, darunter GPT-3, Gopher und Open Pre-trained Transformer (OPT), 1.287, 1.066 bzw. 324 Megawattstunden für das Training verbrauchten. Diese Zahlen entsprechen lediglich der Energiemenge, die benötigt wird, um die Modelle auf die Phase vorzubereiten, in der sie nützliche Aufgaben erfüllen können.

Der Stromverbrauch in der Inferenzphase

Die Inferenzphase, welche auf die Trainingsphase folgt, ist ein wesentlicher Bestandteil des operativen Einsatzes von KI-Modellen. In dieser Phase werden die Modelle in die Praxis überführt, um auf neue Daten zu reagieren und entsprechende Ergebnisse zu generieren, wie de Vries weiter berichtet. Es zeigt sich, dass auch diese Phase mit einem erheblichen Energieverbrauch verbunden ist.

Eine Untersuchung von SemiAnalysis verdeutlicht den Umfang des Energiebedarfs während der Inferenzphase am Beispiel von OpenAIs ChatGPT. Für den Betrieb wurden 3.617 NVIDIA HGX A100-Server benötigt, die insgesamt 28.936 Grafikprozessoren umfassen. Dieser grosse Hardware-Einsatz resultiert in einem täglichen Energiebedarf von 564 Megawattstunden.

Darüber hinaus veröffentlichte Alphabets Google, Daten, nach denen im Zeitraum von 2019 bis 2021 beachtliche 60 Prozent des gesamten, auf KI bezogenen Energieverbrauchs auf die Inferenzphase zurückzuführen sind. In einem Gespräch mit Reuters äusserte John Hennessy, der Vorstandsvorsitzende von Alphabet, dass ein Dialog mit einer KI, insbesondere einem umfangreichen Sprachmodell, voraussichtlich das Zehnfache im Vergleich zu einer Standard-Schlüsselwortsuche kosten würde, wenngleich Optimierungen rasch zu einer Kostensenkung führen könnten. Trotz der möglichen Einkünfte durch Chat-basierte Suchanzeigen könnte diese Technologie Alphabet mit zusätzlichen Ausgaben in Milliardenhöhe belasten, prognostizieren Analysten, wie es in dem Bericht von Reuters weiter hiess.

Andererseits gibt es auch Daten, die eine geringere Energieintensität während der Inferenzphase anzeigen. In dem Beitrag von Alex de Vries hiess es, dass das BLOOM-Modell von Hugging Face in der Inferenzphase deutlich weniger Energie verbraucht hat als während der Trainingsphase.

Der zukünftige Stromverbrauch durch KI

Die steigende Nachfrage nach KI-Technologie hat auch die Nachfrage nach spezialisierten KI-Chips erhöht, was durch NVIDIAs Rekordumsatz von 13,5 Milliarden US-Dollar im zweiten Quartal 2023 illustriert wird. Die enormen Verkaufszahlen unterstreichen die wachsende Beliebtheit der KI, bringen aber auch eine Steigerung des Energieverbrauchs mit sich.

Ein spezifisches Beispiel ist die mögliche Integration von generativer KI in die Google-Suche. Das Unternehmen bearbeitet momentan bis zu neun Milliarden Suchanfragen täglich. Basierend auf den vorliegenden Daten schätzt de Vries, dass Google, sollte es bei jeder Suche KI-Technologie einsetzen, einen jährlichen Strombedarf von rund 29,2 Terawattstunden hätte. Während eine Standard-Google-Suche derzeit nur etwa 0,3 Wattstunden an Strom verbraucht, könnte sich mit der Einführung von generativer KI, je nach dem spezifischen Modell und der Implementierung, der Energieverbrauch pro Anfrage auf drei bis 8,9 Wattstunden erhöhen, wie de Vries weiter berichtet.

Sollten sich die gegenwärtigen Entwicklungen in Bezug auf KI-Kapazität und -Anwendung fortsetzen, könnte NVIDIA bis zum Jahr 2027 jährlich 1,5 Millionen KI-Servereinheiten ausliefern, wie de Vries in der Fachzeitschrift Joule weiter berichtet. Diese 1,5 Millionen Server würden bei voller Auslastung jährlich mindestens 85,4 Terawattstunden Strom benötigen - ein Verbrauch, der den jährlichen Strombedarf vieler kleiner Länder übersteigt. Eine andere Prognose von MIT News deutet darauf hin, dass Rechenzentren bis 2030 sogar bis zu 21 Prozent des weltweiten Strombedarfs ausmachen könnte, insbesondere durch grosse und populäre Modelle wie ChatGPT.

D. Maier / Redaktion finanzen.ch