Deepfake-Apps schützen zu wenig vor Porno-Missbrauch
Bild: Pixabay
Millionenfach genutzte Deepfake-Apps lassen sich wohl ohne Vorkehrungen für Pornos oder sexualisierte Gewalt zweckentfremden.
Eine gemeinsame Recherche von Netzpolitik.org und Spiegel kommt zu dem Schluss, dass derzeit vielfach genutzte Deepfake-Apps nicht oder nur unzureichend vor "bildbasierter, sexualisierter Gewalt" schützen. So lassen sich mit den Apps etwa direkt Gesichter in Porno-Videos oder auch auf Bikini-Bildern und Ähnlichem austauschen. Und selbst wenn diese Art Kategorie gebannt werde, seien immer noch sexualisierte Inhalte möglich.
Die sogenannte Deepfake-Technik ermöglicht es, mit Hilfe von Machine Learning in Videos etwa täuschend echt Gesichter auszutauschen. Das lässt sich für klassische Film- und Fernsehproduktionen nutzen, aber auch für pornografische Inhalte. Letzteres kann schnell zu Schwierigkeiten oder auch Belästigungen für betroffene Personen führen und geschieht auch meist ohne Einverständnis. Bereits im vergangenen Jahr zeigte sich, dass das Problem immer größer zu werden scheint.
Mit derartigen Angeboten werden immer mehr Grenzen überschritten, die bereits seit langem als Problem erkannt werden. So musste der Dienst Deepnude, der Bilder von Frauen in Nacktbilder verwandelt hatte, schon vor mehr als drei Jahren aufgrund des extrem großen Interesses eingestellt wurde.
Mehr dazu findest Du auf golem.de
Kurze URL:
Das könnte Dich auch interessieren:
Mit künstlicher Intelligenz erstellte pornografische Bilder von Selena Gomez, Margot Robbie und weiteren Stars wurden tausendfach auf Ebay verkauft
Eine aktuelle Untersuchung von NBC zeigt, dass entsprechende Videos von prominenten Frauen bei Google und Bing oft weit oben in den Suchergebnissen auftauchen
Ähnliche News:
"Es ist, als ob Frauen nichts bedeuten": Deepfake-Pornos nehmen stark zu
"KI-Pate" Bengio fordert strengere Gesetze gegen "Deepfakes"
Tech-Konzerne kündigen Kampf gegen Deepfake im Superwahljahr an
Kampf gegen Deepfakes: Weißes Haus will Biden-Videos "kryptografisch verifizieren"
Opfer von Deepfakes wehren sich
Studie legt nahe, dass Deepfake-Pornos zu massivem Problem werden
FBI warnt vor wachsender Nutzung von KI-generierten Deepfakes für Sextortion
Kanadier wegen Deepfakes von Kindesmissbrauch zu drei Jahren Haft verurteilt
Richter schmettert Argument der Tesla-Anwälte ab, Musk-Zitate seien Deepfakes gewesen
Emma Watson liest "Mein Kampf": Trolle feiern Software für Stimmen-Deepfakes
"KI-Pate" Bengio fordert strengere Gesetze gegen "Deepfakes"
Tech-Konzerne kündigen Kampf gegen Deepfake im Superwahljahr an
Kampf gegen Deepfakes: Weißes Haus will Biden-Videos "kryptografisch verifizieren"
Opfer von Deepfakes wehren sich
Studie legt nahe, dass Deepfake-Pornos zu massivem Problem werden
FBI warnt vor wachsender Nutzung von KI-generierten Deepfakes für Sextortion
Kanadier wegen Deepfakes von Kindesmissbrauch zu drei Jahren Haft verurteilt
Richter schmettert Argument der Tesla-Anwälte ab, Musk-Zitate seien Deepfakes gewesen
Emma Watson liest "Mein Kampf": Trolle feiern Software für Stimmen-Deepfakes
Weitere News:
Bastler baut Radio-Cartridge für den Game Boy
So sicher sind 8-Zeichen-Passwörter in 2024
Google verstößt gegen Gesetz zum Kündigungsbutton
EU-Parlament stimmt für Austausch sicherheitsrelevanter Passagierdaten
Samsung Galaxy Unpacked: Launchtermin nun wohl geleakt
Volocopter droht Insolvenz nach Absage staatlicher Bürgschaft in Bayern
Extreme Landung: Lufthansa Boeing 747 muss dramatisch durchstarten
Kongo beschuldigt Apple der Nutzung von Konfliktmineralien
Passkeys auch für Whatsapp unter iOS
Mercedes bekommt Need for Speed auf dem Display
So sicher sind 8-Zeichen-Passwörter in 2024
Google verstößt gegen Gesetz zum Kündigungsbutton
EU-Parlament stimmt für Austausch sicherheitsrelevanter Passagierdaten
Samsung Galaxy Unpacked: Launchtermin nun wohl geleakt
Volocopter droht Insolvenz nach Absage staatlicher Bürgschaft in Bayern
Extreme Landung: Lufthansa Boeing 747 muss dramatisch durchstarten
Kongo beschuldigt Apple der Nutzung von Konfliktmineralien
Passkeys auch für Whatsapp unter iOS
Mercedes bekommt Need for Speed auf dem Display
Einen Kommentar schreiben
Kommentare
Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.
(0)
Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.
Kommentare:
Du hast bereits für diesen
Kommentar angestimmt...
;-)
© by Ress Design Group, 2001 - 2024