Rekenkamer: 6 van 9 onderzochte overheidsalgoritmen voldoen niet aan basiseisen – IT Pro – Nieuws

De Algemene Rekenkamer zegt dat zes van negen onderzochte overheidsalgoritmen niet voldoen aan de basiseisen en middelgrote tot grote risico’s bevatten. De Rekenkamer is vooral kritisch over algoritmen van de politie, en algoritmen die ID-bewijzen en vreemdelingen controleren.

De Algemene Rekenkamer heeft een toetsingskader opgesteld met twaalf punten, waarmee de instantie oordeelde of overheden genoeg maatregelen hebben getroffen om risico’s bij algoritmen te beperken. Het gaat onder meer om hoe er naar verantwoordelijkheid is gekeken, hoe het algoritme wordt gemonitord en wat het privacybeleid is rondom het algoritme.

Van de negen onderzochte algoritmen voldoen alleen die van het Centraal Bureau Rijvaardigheidsbewijzen, het Centraal Justitieel Incassobureau en het Inlichtingenbureau aan het toetsingskader. Deze algoritmen bevatten daarom alleen kleine risico’s.

Over het algoritme van de politie dat voorspelt waar en wanneer het risico op incidenten groot is, is de Algemene Rekenkamer het meest kritisch. Dit voldoet aan geen van de gestelde eisen. Een algoritme van de Rijksdienst voor Identiteitsgegevens dat de kwaliteit van identiteitsbewijsfoto’s beoordeelt, wordt op slechts twee punten goed genoeg bevonden, net als een algoritme van het directoraat-generaal Migratie dat in persoonsgegevens van vreemdelingen zoekt of iemand al eerder in Nederland is geregistreerd.

Onduidelijk wie aanspreekbaar is

De Rekenkamer zegt over deze laatste twee algoritmen dat de ontwikkeling en het beheer zijn uitbesteed, maar dat niet is afgesproken wie waarvoor aanspreekbaar is. De Rijksdienst van Identiteitsgevens kan bijvoorbeeld niet zelf nagaan of het algoritme de kwaliteit van pasfoto’s juist controleert, stelt de Rekenkamer. Dit zou discriminatie in de hand kunnen werken. Deze Rijksdienst voert daarnaast geen gegevensbeschermingseffectbeoordeling uit. Bij het algoritme van de politie is er weer geen controle op mogelijke vooringenomenheid, schrijft de Rekenkamer.

Bij alle zes de algoritmen die niet aan de basiseisen voldoen, ontbreekt inzicht in welke medewerkers toegang hebben tot data en het algoritme. Dit speelt volgens de Rekenkamer vooral een rol bij de algoritmen die beoordelen wie aow- en huurtoeslag- en tvl-aanvragen beoordeelt. Tvl is de tegemoetkoming vaste lasten en was bedoeld voor ondernemers die door de coronamaatregelen met omzetverlies te maken kregen.

Reacties staatssecretaris en politie

Staatssecretaris Digitalisering Alexandra van Huffelen zegt met de departementen van de zes algoritmen ‘aan het werk’ te gaan ‘om de tekortkomingen aan te passen’. Van Huffelen erkent dat dit tijd gaat kosten. Ze heeft experts van de departementen gevraagd of het verantwoord is om de zes algoritmen te blijven gebruiken. Functionarissen van deze overheidsonderdelen zeggen van wel, ‘door genomen maatregelen’.

Tegelijkertijd zegt de politie in een reactie het niet eens te zijn met het door de Rekenkamer gehanteerde toetsingskader. De politie zegt dat haar algoritme niet wordt gebruikt tegen individuele burgers, maar voor de verwachtingen van criminaliteit in bijvoorbeeld woonwijken. Daarom valt het algoritme van de politie niet onder de regels van de AVG, maar onder de regels van de Wet politiegegevens, stelt ze. Volgens de politie zijn er daarom alleen kleine risico’s verbonden aan haar algoritme en geen middelgrote tot grote, zoals de Algemene Rekenkamer meldt. De Rekenkamer noemt deze reactie ‘zorgelijk’.