Echte Bilder haben Eigenschaften, die etwa die genutzte Kamera verraten. Facebook will Ähnliches nun auch bei Deep-Fake-Bildern erkennen können.

Das KI-Team von Facebook hat in Zusammenarbeit mit der Michigan State University einen Forschungsansatz "zum Erkennen und Zuordnen von Deep Fakes" vorgestellt, der auf "Reverse Engineering von einem einzelnen KI-generierten Bild zum generativen Modell basiert". Dies soll es ermöglichen, Deep Fakes in ihrer realen Umgebung zu erkennen und zurückzuverfolgen, insbesondere in Situationen, in denen das Bild die einzige verfügbare Information ist.

Laut Facebook beschränken sich bisherige Diskussionen darauf herauszufinden, ob ein Bild echt ist oder als Deep Fake erzeugt wurde. Dabei wird jedoch oft schlicht mit bekannten Deep-Learning-Modellen gearbeitet oder gar mit dem Wissen über die zum Training genutzten Ausgangsbilder. Sollen aber beliebige Bilder als Deep Fake erkannt werden, helfen diese Ansätze eben nicht mehr weiter.

Bei dem von den Forschern verfolgten Ansatz handelt es sich um sogenanntes Reverse Engineering, das darauf gerichtet sei, die "einzigartigen Muster hinter dem KI-Modell aufzudecken, das verwendet wird, um ein einzelnes Deepfake-Bild zu generieren". Beim Vergleich mehrerer Bilder könne außerdem festgestellt werden, ob diese möglicherweise mit dem gleichen Modell erstellt worden sind.