Forscher versprechen massive Effizienzsteigerung bei KI

01. März 2024, 11:57 |  0 Kommentare

Die Verwendung eines Ternärsystems statt Gleitkommazahlen soll große KI-Sprachmodelle massiv beschleunigen und vereinfachen - ohne Qualitätsverlust.

Ein Forschungsteam der chinesischen Akademie der Wissenschaften und Microsoft Research hat mit Bitnet b1.58 einen neuen Ansatz für die Architektur großer KI-Sprachmodelle vorgestellt, die bei der Inferenz, also dem Ausführen des trainierten Modells, in Bezug auf Latenz, Durchsatz und Energieaufwand zu einem Pareto-Optimum führen soll. Die Qualität und Leistung des Modells selbst soll dabei im Vergleich zu bisherigen Techniken gleich bleiben.

Erreicht werden soll das durch die Nutzung eines balancierten Ternärsystems, das durch die Ziffern -1, 0 und 1 repräsentiert werden kann. Dieses System dient dabei als Ersatz für die bisher üblichen Gleitkommazahlen, die in KI-Modellen zum Einsatz kommen.

Mehr dazu findest Du auf golem.de


Autor schreiben




Kurze URL:


Bewertung: 4.0/5 (4 Stimmen)


Das könnte Dich auch interessieren:


Ähnliche News:
Forscher schleusen Malware per Bluetooth in einen Skoda
Forscher knacken Microsofts Multi-Faktor-Authentifizierung
OpenAIs o1-Modell soll Forscher ausgetrickst haben
Forscher machen Perowskit-Solarzellen 10-mal widerstandsfähiger
Forscher verbessern GPS-Genauigkeit mit Smartphonesensoren
Unglaublicher Weltrekord bei Kernfusion macht Forscher skeptisch
Apple-Forscher finden keine Hinweise auf echtes KI-Reasoning
Forscher speichern menschliches Erbgut für die Ewigkeit
Hunderte russische Forscher am Cern von Ausschluss bedroht
Ausspähen von Passwörtern möglich - Forscher finden Eye-Tracking-Bug in Apple Vision Pro


Weitere News:
EU will Apple zwingen, AirDrop und AirPlay für Android zu öffnen
Amateur-Astronomen empfangen Voyager-Signal mit Teleskop aus den 50ern
OpenAI strauchelt: GPT-5 bleibt hinter Erwartungen zurück
aleX fotografiert: Möwen am Mondsee
Samsung The Premiere 8K: Erster Beamer mit Zertifizierung der 8K Association
AdGuard Mail: Neuer Dienst verschleiert eure Mail-Adresse
Foto zeigt zurückgelassen, staubigen Lander auf dem Mars
Google schränkt Zeitachse in Maps massiv ein
2025 wieder gute Chancen für Polarlichter in Österreich
Tencent Hunyuan Video: Kostenloses KI-Modell für Videogenerierung vorgestellt


Einen Kommentar schreiben

Du willst nicht als "Gast" schreiben? Logg Dich Hier ein.

Code:

Code neuladen

Kommentare
(0)

Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.



Kommentare:

Du hast bereits für diesen Kommentar abgestimmt...

;-)


© by Ress Design Group, 2001 - 2024

Top