am 16. Dez. 2022 um 12:41
Samsung baut GPU-Cluster mit intelligentem Speicher
Bild: Samsung
Samsung hat AMD-Grafikkarten mit PIM-Speicher ausgestattet, der Berechnungen direkt im Speicher durchführen kann. Das erhöht die KI-Performance.
Samsung hat kürzlich 96 Grafikkarten mit
AMD MI100-GPUs und PIM-Speicher zu einem Cluster kombiniert, was das System zum ersten seiner Art macht. Process-in-Memory-RAM (PIM) ist Speicher, der einen Teil der Berechnungen direkt im Speicher ausführen kann, statt die Daten dafür der GPU selbst zur Verfügung stellen zu müssen. So soll die Performance für KI-Training um bis zu zweieinhalb Mal schneller werden.
Dadurch, dass Daten nicht für einfache Aufgaben zur GPU übertragen werden müssen, stehen mehr Speicherbandbreite und GPU-Kapazität für die eigentlichen Rechenaufgaben zur Verfügung. Bei gleicher Rechenleistung wird außerdem die Leistungsaufnahme stark reduziert, da die große und stromhungrige GPU nicht mehr für einfache Berechnungen arbeiten muss, die nun der Speicher selbst durchführen kann.
Mehr dazu findest Du auf
golem.de