Deepseek-V3: Neues KI-Modell übertrifft Llama 3.1-405B und Qwen 2.5-72B

27. Dez. 2024, 15:57 |  0 Kommentare

Das chinesische Unternehmen Deepseek hat mit Deepseek-V3 ein neues Large Language Model (LLM) veröffentlicht, das bisherige Open-Source-Modelle übertrifft.

Langsam werden Open-Source-KI-Modelle besser: Das neue Large Language Model (LLM) Deepseek-V3 verfügt über 671 Milliarden Parameter, nutzt jedoch nur 37 Milliarden Parameter pro Token, was eine deutlich höhere Effizienz verspricht.

Das Modell basiert auf einer weiterentwickelten Architektur, die Multi-Head Latent Attention (MLA) und DeepseekMoE kombiniert. Zudem implementierte das Unternehmen eine verlustfreie Lastverteilungsstrategie, die die gleichzeitige Vorhersage mehrerer Tokens ermöglicht. Die Trainingskosten beliefen sich auf umgerechnet 5,57 Millionen US-Dollar.

Mehr dazu findest Du auf golem.de


Autor schreiben




Kurze URL:


Bewertung: 5.0/5 (2 Stimmen)


Weitere News:
Die CM News-Highlights 2024
Wasserstoff-Lkw stellt Weltrekord auf
Account von Ford gekapert: Hassnachrichten gegen Israel auf X
Chinesische Hacker dringen in das US-Finanzministerium ein
Der Strichcode soll in den nächsten Jahren verschwinden
38c3: Schlamperei: Unzählige Ausweise liegen ungeschützt in der Cloud
KI-gesteuerter Chirurgieroboter lernt aus OP-Videos
M4 Mac mit Anzeigeproblemen auf Ultrawide-5K2K-Monitoren
Nvidia treibt neues Wachstumsfeld voran
Apple TV+ am 4. und 5. Januar 2025 gratis nutzbar - Ohne Abo


Einen Kommentar schreiben

Du willst nicht als "Gast" schreiben? Logg Dich Hier ein.

Code:

Code neuladen

Kommentare
(0)

Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.



Kommentare:

Du hast bereits für diesen Kommentar abgestimmt...

;-)


© by Ress Design Group, 2001 - 2025

Top