schaf am 01. März 2024 um 11:57 |  0 Kommentare | Lesezeit: 40 Sekunden

Forscher versprechen massive Effizienzsteigerung bei KI

Die Verwendung eines Ternärsystems statt Gleitkommazahlen soll große KI-Sprachmodelle massiv beschleunigen und vereinfachen - ohne Qualitätsverlust.

Ein Forschungsteam der chinesischen Akademie der Wissenschaften und Microsoft Research hat mit Bitnet b1.58 einen neuen Ansatz für die Architektur großer KI-Sprachmodelle vorgestellt, die bei der Inferenz, also dem Ausführen des trainierten Modells, in Bezug auf Latenz, Durchsatz und Energieaufwand zu einem Pareto-Optimum führen soll. Die Qualität und Leistung des Modells selbst soll dabei im Vergleich zu bisherigen Techniken gleich bleiben.

Erreicht werden soll das durch die Nutzung eines balancierten Ternärsystems, das durch die Ziffern -1, 0 und 1 repräsentiert werden kann. Dieses System dient dabei als Ersatz für die bisher üblichen Gleitkommazahlen, die in KI-Modellen zum Einsatz kommen.

Mehr dazu findest Du auf golem.de


Autor schreiben




Kurze URL:


Bewertung: 4.0/5 (4 Stimmen)


Das könnte Dich auch interessieren:


Ähnliche News:
Forscher laden E-Auto drahtlos mit 100 Kilowatt
Tesla-Hack: Forscher zeigen, wie leicht sich ein Model 3 stehlen lässt
Tote Verwandte mit KI wiederzubeleben ist keine kluge Idee, warnen Forscher
Forscher speichern 1 Petabit auf optischem Datenträger
Wie Forscher mit alter Milch Gold aus Elektroschrott gewinnen
Sicherheitsforscher von Google hacken Playstation Portal
Forscher entwickeln serientauglichen optischen Computer
Forscher demonstrieren Angriff auf Kfz-Radarsysteme
Forschern gelingt Manipulation von Flugzeug-Leistungsdaten
Wie österreichische Forscher Krypto-Betrüger auffliegen lassen


Weitere News:
Amazon-Führungskräfte zerstören angeblich Beweise via Signal
Apple will völlig neue Art von Chips bauen
MS-DOS 4.00 ist jetzt Open Source
Pura 70: Huaweis neues Smartphone kommt wieder mit 7-nm-Chip
Bastler baut Radio-Cartridge für den Game Boy
So sicher sind 8-Zeichen-Passwörter in 2024
Handykamera könnte Schlaganfälle verhindern
Google verstößt gegen Gesetz zum Kündigungsbutton
EU-Parlament stimmt für Austausch sicherheitsrelevanter Passagierdaten
Samsung Galaxy Unpacked: Launchtermin nun wohl geleakt


Einen Kommentar schreiben

Du willst nicht als "Gast" schreiben? Logg Dich Hier ein.

Code:

Code neuladen

Kommentare
(0)

Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.



Kommentare:

Du hast bereits für diesen Kommentar angestimmt...

;-)


© by Ress Design Group, 2001 - 2024

Top