Google beschouwt foto’s die vader naar arts stuurt ten onrechte als kindermisbruik

Google beschouwt foto’s die vader naar arts stuurt ten onrechte als kindermisbruik
maandag 22 augustus 2022, 10:46 door Redactie, 20 reacties

Laatst bijgewerkt: Vandaag, 11:16

Een Amerikaanse man die op verzoek van een verpleger foto’s van zijn zieke peuter maakte en naar een arts stuurde is door de algoritmes en een medewerker van Google ten onrechte beschuldigd van het versturen van kindermisbruikmateriaal, wat grote gevolgen voor de vader had. Zo besloot de Amerikaanse politie een onderzoek naar hem te starten en raakte hij zijn Google-account met allerlei waardevolle informatie kwijt.

De zoon van de man had begin vorig jaar een ontsteking in de liesstreek. De ouders vroegen hun zorgverlener om een spoedconsult in het weekend, waarbij de verpleger verzocht om foto’s van de liesstreek op te sturen zodat de arts die al kon bekijken. Het voorval deed zich vorig jaar februari voor tijdens de coronacrisis. De vader maakte zoals gevraagd de foto’s en stuurde die op.

De foto’s werden echter automatisch naar de servers van Google geback-upt. Daar beoordeelde een algoritme van het techbedrijf dat het om kindermisbruikmateriaal ging. Door het algoritme aangemerkte foto’s worden vervolgens door een menselijke controleur geverifieerd. De betreffende Google-medewerker stelde dat het om kindermisbruikmateriaal ging en waarschuwde het National Center for Missing and Exploited Children (NCMEC). Een organisatie die zich met de bestrijding van kindermisbruik bezighoudt.

Google besloot het Google-account van de vader wegens het overtreden van het beleid te vergrendelen en het NCMEC waarschuwde de autoriteiten. De politie startte een onderzoek naar de vader en vroegen zijn internetprovider en Google om alle data over hem, waaronder bezochte websites, locatiegeschiedenis, berichten en geüploade documenten, foto’s en video’s, zo meldt The New York Times.

De politie stelde uiteindelijk op basis van onderzoek dat de man onschuldig is. Desondanks heeft de vader zijn Google-account nog altijd niet terug en is daardoor meer dan tien jaar aan contacten, e-mails en foto’s kwijtgeraakt. Een deel van de foto’s en documenten wist hij via andere back-ups terug te krijgen. Google heeft geen verklaring gegeven voor het niet teruggeven van het account. De man blijft naar eigen zeggen de diensten van Google gebruiken, maar vertrouwt zijn data niet meer klakkeloos aan het techbedrijf toe. Daarnaast adviseert hij om het automatisch uploaden van foto’s naar Google Photos uit te schakelen.

Scanplan Europese Commissie

De Europese Commissie wil chatdiensten en andere techbedrijven verplichten om alle berichten en andere content van gebruikers op kindermisbruik te scannen, waarbij ook gebruik van algoritmes moet worden gemaakt. Tal van privacyexperts hebben de afgelopen periode gewaarschuwd voor de gevolgen van een dergelijk plan, waaronder het voorval dat de Amerikaanse vader is overkomen. Daarnaast hebben de Europese privacytoezichthouders zich ook zeer kritisch uitgelaten.

Bron: https://www.security.nl/posting/765240/Google+beschouwt+foto%27s+die+vader+naar+arts+stuurt+ten+onrechte+als+kindermisbruik?channel=rss

Georgino van Hout

Georgino van Hout is een verslaggever voor InternetBlabla.nl. Hij heeft in het verleden voor verschillende cyber security bedrijven geblogd. Door zijn bijdragen aan InternetBlaBla, kunnen we de belangrijke zaken in cyber security blijven verslaan zodat we actueel blijven op het gebied van cyber veiligheid.