Ein Vater fotografiert den Genitalbereich seines kleinen Sohnes für den Kinderarzt – plötzlich wird sein Google-Account gesperrt. Die automatische Bilderkennung hatte falschen Alarm ausgelöst. Für die geplante Chatkontrolle lässt das wenig Gutes erwarten.
Ein Fall aus San Francisco macht anschaulich, was passieren kann, wenn automatische Bilderkennung einen falschen Verdacht hegt. Die Geschichte beginnt im Februar 2021. Ein Vater bemerkt, dass sein kleiner Sohn Schmerzen am Penis hat. Wegen der Pandemie bietet der Kinderarzt eine Videosprechstunde an. Man solle vorab ein Foto der schmerzenden Stelle schicken. So berichtet es die New York Times. Was der Vater nicht ahnt: Die Fotos vom Genitalbereich seines kleinen Sohnes landen auch auf Google-Servern und werden dort automatisch gescannt.
Die automatische Synchronisierung von Fotos lässt sich auf Android-Geräten ein- und ausschalten. In diesem Fall war sie eingeschaltet, und Google scannte die Fotos auf der Suche nach sexualisierter Gewalt gegen Kinder. Bei mindestens einem Foto schlug die automatische Bilderkennung Alarm. Mit schweren Folgen: Das Erstellen sogenannter Kinderpornografie ist auch in den USA eine schwere Straftat. Der Vater verlor seinen Google-Account, die Polizei wurde eingeschaltet. Zahlreiche US-amerikanische und deutsche Nachrichtenmedien haben inzwischen darüber berichtet.
Quelle: netzpolitik.org