...::: C&M News by Ress - Druckansicht :::...

Drucken (Bereits 15 mal)


Dieser Chatbot verbraucht am meisten Strom von allen

(09. August 2023/21:58)
Das Training von KI-Modellen ist sehr energieintensiv. Wie viel Strom es genau verschlingt, zeigt nun eine Studie.

Der größte Energiefresser der Studie ist der Bing-Chatbot von Microsoft. Jener basiert auf GPT-4 vom ChatGPT-Macher OpenAI. GPT-4 hat 5,8 Mal mehr Parameter als GPT-3 und musste 5 bis 6 Monate lang trainiert werden. Als Hardware kamen dabei GPUs vom Typ Nvidia V100 zum Einsatz, wie Nvidia vor einiger Zeit selbst berichtete.

Der Energieverbrauch für das Training mit diesen Chips soll dabei laut dem Rechenzentrumsbetreiber bei 7.200 Megawattstunden liegen. Zum Vergleich: Ein Haushalt in Österreich verbraucht pro Jahr im Schnitt etwas mehr als 4 Megawattstunden Strom.


Mehr dazu findet ihr auf futurezone.at


https://ress.at/dieser-chatbot-verbraucht-am-meisten-strom-von-allen-news09082023215834.html
© by RessServerWorks, 2024