Bild: Pixabay

Britische Organisation warnt vor rasantem Anstieg und zeigt auf, wie einfach solche Inhalte für Täter mittlerweile zu produzieren sind

Im anhaltenden Hype um künstliche Intelligenz (KI) werden auch Albträume wahr: KI-generierte Bilder zu Kindesmissbrauch markieren einen beängstigenden neuen Trend bei der Verbreitung expliziter Inhalte im Internet. Kriminelle verwenden generative Open-Source-KI-Modelle, die nicht nur in der Lage sind, äußerst realistische Bilder zu erstellen, sie wiederholen damit oft auch den Missbrauch von Kindern, die bereits Opfer solcher Verbrechen waren. Diese KI-Modelle werden auf der Grundlage gemeinsam genutzter Datensätze mit Missbrauchsbildern maßgeschneidert - und die Kriminellen sind mittlerweile so dreist geworden, dass sie sogar monatliche Abos für den Zugang zu diesen neuen Inhalten verkaufen.

Die Internet Watch Foundation (IWF), eine gemeinnützige Organisation mit Sitz in Großbritannien, die sich für die Entfernung von Missbrauchsinhalten aus dem Internet einsetzt, hat umfangreiche Untersuchungen (PDF) zu diesem Thema durchgeführt und jetzt veröffentlicht. Bereits im Juni entdeckte sie sieben URLs, die mutmaßlich KI-generiertes Material enthielten, wie es zuvor beschrieben worden ist. Allein eine kürzlich durchgeführte Untersuchung eines Darknet-Forums, das sich auf illegale Darstellungen sexuellen Missbrauchs von Kindern (Child Sexual Abuse Material, CSAM) spezialisiert hat, förderte schon rund 3.000 KI-generierte Bilder zutage.