Forscher versprechen massive Effizienzsteigerung bei KI
Die Verwendung eines Ternärsystems statt Gleitkommazahlen soll große KI-Sprachmodelle massiv beschleunigen und vereinfachen - ohne Qualitätsverlust.Ein Forschungsteam der chinesischen Akademie der Wissenschaften und Microsoft Research hat mit Bitnet b1.58 einen neuen Ansatz für die Architektur großer KI-Sprachmodelle vorgestellt, die bei der Inferenz, also dem Ausführen des trainierten Modells, in Bezug auf Latenz, Durchsatz und Energieaufwand zu einem Pareto-Optimum führen soll. Die Qualität und Leistung des Modells selbst soll dabei im Vergleich zu bisherigen Techniken gleich bleiben.
Erreicht werden soll das durch die Nutzung eines balancierten Ternärsystems, das durch die Ziffern -1, 0 und 1 repräsentiert werden kann. Dieses System dient dabei als Ersatz für die bisher üblichen Gleitkommazahlen, die in KI-Modellen zum Einsatz kommen.
Mehr dazu findest Du auf golem.de
Kurze URL:
Das könnte Dich auch interessieren:
Sie konnten den Einsatz des seltenen Metalls Iridium um 95 Prozent reduzieren, ohne an Effizienz einzubüßen.
Britische Forscher konnten 301.000 Gigabit pro Sekunde übertragen. Bestehende Leitungen reichen für derartige Geschwindigkeiten aus
Ähnliche News:
Forscherinnen orten "Pornofizierungstrend" unter Twitch-Streamerinnen
Forscher laden E-Auto drahtlos mit 100 Kilowatt
Tesla-Hack: Forscher zeigen, wie leicht sich ein Model 3 stehlen lässt
Tote Verwandte mit KI wiederzubeleben ist keine kluge Idee, warnen Forscher
Forscher speichern 1 Petabit auf optischem Datenträger
Wie Forscher mit alter Milch Gold aus Elektroschrott gewinnen
Sicherheitsforscher von Google hacken Playstation Portal
Forscher entwickeln serientauglichen optischen Computer
Forscher demonstrieren Angriff auf Kfz-Radarsysteme
Forschern gelingt Manipulation von Flugzeug-Leistungsdaten
Forscher laden E-Auto drahtlos mit 100 Kilowatt
Tesla-Hack: Forscher zeigen, wie leicht sich ein Model 3 stehlen lässt
Tote Verwandte mit KI wiederzubeleben ist keine kluge Idee, warnen Forscher
Forscher speichern 1 Petabit auf optischem Datenträger
Wie Forscher mit alter Milch Gold aus Elektroschrott gewinnen
Sicherheitsforscher von Google hacken Playstation Portal
Forscher entwickeln serientauglichen optischen Computer
Forscher demonstrieren Angriff auf Kfz-Radarsysteme
Forschern gelingt Manipulation von Flugzeug-Leistungsdaten
Weitere News:
Warum Menschen Schlupflöcher suchen
Kriminelle wollten Cybertrucks nach Russland schmuggeln
EA will Werbung in Videospiele integrieren
Größter CO2-Sauger der Welt geht in Betrieb
Hunderte Umweltaktivisten protestieren nahe Berlin gegen Tesla
Finanzministerium warnt wieder vor betrügerischen SMS-Nachrichten
Nächster Boeing-Whistleblower berichtet über schwere Mängel
Bastler bekommen Android auf Rabbit R1 zum Laufen
Microsoft Word mit neuer Standardeinfügeoption
Apple soll kurz vor Vereinbarung mit OpenAI stehen
Kriminelle wollten Cybertrucks nach Russland schmuggeln
EA will Werbung in Videospiele integrieren
Größter CO2-Sauger der Welt geht in Betrieb
Hunderte Umweltaktivisten protestieren nahe Berlin gegen Tesla
Finanzministerium warnt wieder vor betrügerischen SMS-Nachrichten
Nächster Boeing-Whistleblower berichtet über schwere Mängel
Bastler bekommen Android auf Rabbit R1 zum Laufen
Microsoft Word mit neuer Standardeinfügeoption
Apple soll kurz vor Vereinbarung mit OpenAI stehen
Einen Kommentar schreiben
Kommentare
Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.
(0)
Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.
Kommentare:
Du hast bereits für diesen
Kommentar angestimmt...
;-)
© by Ress Design Group, 2001 - 2024