Forscher versprechen massive Effizienzsteigerung bei KI
Die Verwendung eines Ternärsystems statt Gleitkommazahlen soll große KI-Sprachmodelle massiv beschleunigen und vereinfachen - ohne Qualitätsverlust.Ein Forschungsteam der chinesischen Akademie der Wissenschaften und Microsoft Research hat mit Bitnet b1.58 einen neuen Ansatz für die Architektur großer KI-Sprachmodelle vorgestellt, die bei der Inferenz, also dem Ausführen des trainierten Modells, in Bezug auf Latenz, Durchsatz und Energieaufwand zu einem Pareto-Optimum führen soll. Die Qualität und Leistung des Modells selbst soll dabei im Vergleich zu bisherigen Techniken gleich bleiben.
Erreicht werden soll das durch die Nutzung eines balancierten Ternärsystems, das durch die Ziffern -1, 0 und 1 repräsentiert werden kann. Dieses System dient dabei als Ersatz für die bisher üblichen Gleitkommazahlen, die in KI-Modellen zum Einsatz kommen.
Mehr dazu findest Du auf golem.de
Kurze URL:
Das könnte Dich auch interessieren:
Sie konnten den Einsatz des seltenen Metalls Iridium um 95 Prozent reduzieren, ohne an Effizienz einzubüßen.
Britische Forscher konnten 301.000 Gigabit pro Sekunde übertragen. Bestehende Leitungen reichen für derartige Geschwindigkeiten aus
Ähnliche News:
Forscher arbeiten an 3D-Drucker für die Hosentasche
Forscherinnen orten "Pornofizierungstrend" unter Twitch-Streamerinnen
Forscher laden E-Auto drahtlos mit 100 Kilowatt
Tesla-Hack: Forscher zeigen, wie leicht sich ein Model 3 stehlen lässt
Tote Verwandte mit KI wiederzubeleben ist keine kluge Idee, warnen Forscher
Forscher speichern 1 Petabit auf optischem Datenträger
Wie Forscher mit alter Milch Gold aus Elektroschrott gewinnen
Sicherheitsforscher von Google hacken Playstation Portal
Forscher entwickeln serientauglichen optischen Computer
Forscher demonstrieren Angriff auf Kfz-Radarsysteme
Forscherinnen orten "Pornofizierungstrend" unter Twitch-Streamerinnen
Forscher laden E-Auto drahtlos mit 100 Kilowatt
Tesla-Hack: Forscher zeigen, wie leicht sich ein Model 3 stehlen lässt
Tote Verwandte mit KI wiederzubeleben ist keine kluge Idee, warnen Forscher
Forscher speichern 1 Petabit auf optischem Datenträger
Wie Forscher mit alter Milch Gold aus Elektroschrott gewinnen
Sicherheitsforscher von Google hacken Playstation Portal
Forscher entwickeln serientauglichen optischen Computer
Forscher demonstrieren Angriff auf Kfz-Radarsysteme
Weitere News:
In diesem viralen Steam Game kann man nur auf eine Banane klicken
12.500 Gäste am ersten Tag: A1 Austrian eSports Festival und Spielefest Wien in vollem Gange
E-Autos verlieren in Österreich an Beliebtheit, Tesla führt den Absturz an
Clearview AI muss sich nach Nutzerklage selbst verkaufen
LUMA AI : Kostenloser KI-Videogenerator sorgt für Begeisterung
Meta verzögert Start von KI-Software in Europa
Voyager 1 sendet wieder vollständige Daten
Frau wollte in ihrem BH 350 Nintendo Switch Spiele nach China schmuggeln
Fortinet serviert VPN-Passwörter "auf dem Silbertablett"
ChromeOS bekommt mehr Android
12.500 Gäste am ersten Tag: A1 Austrian eSports Festival und Spielefest Wien in vollem Gange
E-Autos verlieren in Österreich an Beliebtheit, Tesla führt den Absturz an
Clearview AI muss sich nach Nutzerklage selbst verkaufen
LUMA AI : Kostenloser KI-Videogenerator sorgt für Begeisterung
Meta verzögert Start von KI-Software in Europa
Voyager 1 sendet wieder vollständige Daten
Frau wollte in ihrem BH 350 Nintendo Switch Spiele nach China schmuggeln
Fortinet serviert VPN-Passwörter "auf dem Silbertablett"
ChromeOS bekommt mehr Android
Einen Kommentar schreiben
Kommentare
Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.
(0)
Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.
Kommentare:
Du hast bereits für diesen
Kommentar angestimmt...
;-)
© by Ress Design Group, 2001 - 2024