Bild: Pixabay

Eine automatische Google-Software markierte die Bilder als "schädlich" und leitete die Kontakte an die Behörden weiter.

Junge, unerfahrene Eltern haben es schwer, besonders wenn das Kind krank wird. Da beruhigt es ungemein, der Ärzt*in ein Foto des Problems schicken zu können, um schnell abklären zu können, ob es sich um etwas Ernstes handelt. Was man jedoch nicht bedenkt: Dass man dabei leicht unter den Verdacht gerät, seine Kinder zu misshandeln.

Die New York Times berichtet so von gleich 2 Fällen, die so in den USA passiert sind.

Einer dieser Fälle ereignete sich im Februar 2021, als viele Arztpraxen in den USA wegen der Coronapandemie noch geschlossen waren. Ein Vater bemerkte dabei eine Schwellung im Genitalbereich seines Kindes und schickte die Fotos im Vorfeld einer Video-Diagnose an seinen Arzt. Dieser verschrieb daraufhin Antibiotika gegen die Infektion.

Dabei wurden die Fotos mit einem Android-Smartphone geschossen, das die Bilder automatisch mit Google synchronisierte und in die Cloud hochlud. Eine spezielle Google-Software, die eigentlich bei Kindesmissbrauch Alarm schlagen soll, markierte die Bilder daraufhin als verdächtig. Die Software vergleicht dabei Bilder mit gängigen Abbildungen von Missbrauchsfällen. Nach einer weiteren Analyse wurden die Kinderschutzorganisation "National Center for Missing and Exploited Children" (NCMEC) und die Polizei informiert.

Nicht zuverlässig genug

In einem internen Bericht der EU-Kommission, den Netzpolitik.org vollständig veröffentlicht hat, wird die Problematik falsch positiver Ergebnisse aufgeworfen. Kurzum, aktuell verfügbare Systeme sind nicht zuverlässig genug, um wirklich nur jene Inhalte zu kennzeichnen, die strafrechtlich relevant sind.





C&M News: https://ress.at/-news22082022213931.html

Das ist unsere schöne neue Welt, mit dem ganzen KI Kram im Nacken! Aber selbst schuld, weil alle wollen es nur mehr bequem und automatisiert haben! Keiner will mehr nachdanke!

Es geht leider aus dem Artikel nicht hervor, ob der Arzt dies so wollte ... Aber ich habe mit sehr vielen Ärzten kontakt und mache die IT Sachen für diese. Immer wieder kommen anfragen was sie machen sollten, weil die Mailboxen werden mit Bildern und Videos der Leute überschüttet/verstopft ... Die Leuten zücken heutzutage einfach ihr Handy, machen ein Foto (falls man das Leiden eben fotografiren kann) und ab per Mail zum Arzt! Am besten danach gleich mal Anrufen und Fragen was dies sein kann ... Man kann ja auch gleich die Telefonleitung lahm legen ...



C&M distanziert sich konkret und ausdrücklich vom Inhalt dieses Postings.
Der Ersteller des Postings haftet für seine Äußerungen.
Inhalte, die nicht den Forumsregeln entsprechen sind bitte vom Leser zu melden ...

Für mich ist dies nun ein sehr gutes Beispiel, welches man den Leuten die immer wieder meinen "Ich hab nix zu verstecken" mitgeben kann

Bist "false positive" hat dies unangenehme Konsequenzen, auch wenn man unschuldig ist.