Nvidia H100 werden mehr Strom als kleine Länder benötigen
29. Dez. 2023, 12:33
| 1 Kommentar
Bild: Nvidia
Eine einzelne GPU-Serie wird wahrscheinlich mehr Strom verbrauchen als kleinere Länder. Und die nächste Generation wird noch einmal anspruchsvoller.
Die französische Firma Schneider Electric (via
Tomshardware) hat im Herbst ausgerechnet, dass KI-Rechenzentren in diesem Jahr mehr Energie verbrauchten als die Republik Zypern. Für das Jahr 2024 dürfte das bereits eine einzelne GPU-Serie schaffen. Denn Nvidia-H100-GPUs werden in Millionenstückzahl produziert und genutzt.
Ein einzelnes SXM-Modul mit einer Nvidia H100-GPU hat eine maximale Leistungsaufnahme von 700 Watt. Paul Churnock, leitender Elektroingenieur für technische Spezifikationen von Rechenzentren bei Microsoft, geht von einer durchschnittlichen jährlichen Auslastung von 61 Prozent aus.
Nvidia will im Jahr 2024 1,5 bis 2 Millionen H100-Beschleuniger verkaufen. Hinzu kommen geschätzte 1,5 Millionen im Jahr 2023. In Summe ergibt das bis zu 3,5 Millionen H100-Module, die bei einer jährlichen Auslastung von 61 Prozent insgesamt rund 13.000 Gigawattstunden pro Jahr brauchen. Damit würde allein die H100-Serie
vor Staaten wie Bolivien, Estland, Litauen oder der Mongolei liegen.