Bild: Samsung

Samsung hat AMD-Grafikkarten mit PIM-Speicher ausgestattet, der Berechnungen direkt im Speicher durchführen kann. Das erhöht die KI-Performance.

Samsung hat kürzlich 96 Grafikkarten mit AMD MI100-GPUs und PIM-Speicher zu einem Cluster kombiniert, was das System zum ersten seiner Art macht. Process-in-Memory-RAM (PIM) ist Speicher, der einen Teil der Berechnungen direkt im Speicher ausführen kann, statt die Daten dafür der GPU selbst zur Verfügung stellen zu müssen. So soll die Performance für KI-Training um bis zu zweieinhalb Mal schneller werden.

Dadurch, dass Daten nicht für einfache Aufgaben zur GPU übertragen werden müssen, stehen mehr Speicherbandbreite und GPU-Kapazität für die eigentlichen Rechenaufgaben zur Verfügung. Bei gleicher Rechenleistung wird außerdem die Leistungsaufnahme stark reduziert, da die große und stromhungrige GPU nicht mehr für einfache Berechnungen arbeiten muss, die nun der Speicher selbst durchführen kann.