Die EU-Kommission will mit einem neuen Gesetzesentwurf algorithmenbasierte Systeme regulieren. Dabei soll ein besonderes Augenmerk auf "hochriskante" KI gelegt werden

Künstliche Intelligenz (KI) erobert die Welt. Ob in der Arbeitswelt, bei Behörden oder im Alltag: Immer häufiger kommen Algorithmen zum Einsatz. Die EU will all das nun in einem neuen Gesetzesentwurf der Kommission regulieren. Das könnte auch den geplanten Algorithmus des Arbeitsmarktservice AMS zum Straucheln bringen: So dürfte der aktuelle Entwurf der Kommission, sollte er so umgesetzt werden, ihn als "Hochrisiko-Anwendung" einstufen.

Der AMS-Algorithmus dürfte sogar sehr explizit darunter fallen, da speziell KI-Systeme durch öffentliche Behörden gelistet werden

... sagt die Juristin Angelika Adensamer, Überwachungsexpertin beim Wiener Zentrum für sozialwissenschaftliche Sicherheitsforschung (Vicesse).

Das System des AMS will künftig bei Arbeitslosen automatisiert berechnen lassen, wie hoch ihre Chancen stehen, um einen Job zu finden. Aktuell liegt er vor dem obersten Verwaltungsgericht.

Der Entwurf nennt KI-Systeme von Behörden, die beispielsweise öffentliche Dienste anbieten

... sagt Adensamer, als hochriskante Anwendungen.

Sie müssten sich, sollten die neuen Regeln so umgesetzt werden, an strenge Qualitätsstandards halten und strikte Risikoprüfungen durchführen. Bei Verstößen drohen Strafen in Höhe von bis zu vier Prozent des Jahresumsatzes, die Kontrolle erfolgt durch den Mitgliedsstaat selbst.

Adensamers Einschätzung stimmt auch Thomas Lohninger von der Grundrechts-NGO Epicenter Works zu - und vermutet, dass der AMS-Algorithmus grundlegend überarbeitet werden müsste:

Die Sorgfaltsansprüche, die mit dem Gesetz verbunden sind, werden vom AMS derzeit nicht erfüllt.

Vor allem Frauen, zu alte oder ausländische Menschen würden diskriminiert.