Diverse algoritmes overheid werken volgens Rekenkamer ondermaats
De Algemene Rekenkamer constateert dat diverse algoritmes van de overheid niet aan de basiseisen voldoen. Zes van de negen onderzochte uitvoeringsorganisaties scoorden ondermaats, door onder meer vooringenomenheid, datalekken of ongeautoriseerde toegang.
In het onderzoek ‘Algoritmes getoetst’ onderzocht de Rekenkamer, op basis van risicoselectie, negen algoritmes die in gebruik zijn bij evenzovele uitvoeringsorganisaties van de rijksoverheid en werden beoordeeld op hun werking.
De politie kwam het slechtst uit het onderzoek van de Rekenkamer en scoorde op alle toetsingspunten onvoldoende. Zo maakte de politie gebruik van historische data van bijvoorbeeld wijken, om via kansberekening de te verwachten criminaliteit aldaar te bepalen. "Doordat in het verleden bepaalde wijken intensiever zijn gecontroleerd, is de kans groot dat in de voorspellingen onwenselijke systematische afwijkingen ontstaan", zo meldt de Rekenkamer in zijn rapport.
Overheidsorganisaties die goed scoorden waren het Centraal Bureau Rijvaardigheidsbewijzen, het Centraal Justitieel Incasso Bureau en het Inlichtingenbureau, dat de uitwisseling van (persoons)gegevens tussen gemeenten en overheidsinstanties faciliteert.
Kans op discriminatie
Wanneer een algoritme niet goed wordt ingezet, is er volgens de Rekenkamer kans op discriminatie of zijn persoons- of bedrijfsinformatie niet veilig opgeslagen. Een bekend voorbeeld is de kindertoeslagenaffaire, waarbij mensen met een laag inkomen door een algoritme automatisch in het vizier van de Belastingdienst kwamen voor een fraudecontrole.
Burgers en bedrijven "moeten erop kunnen vertrouwen dat de inzet van algoritmes door de rijksoverheid op een verantwoorde wijze plaatsvindt", aldus de Rekenkamer. Zonder de inzet ervan is beleid niet uitvoerbaar, omdat algoritmes miljoenen handelingen per maand verrichten.
Het onderzoeksrapport is op 18 mei, gelijktijdig met het verantwoordingsonderzoek over 2021, gepubliceerd en naar de Tweede en Eerste Kamer gestuurd.
Gerelateerd
Rekenkamer: Stimuleren arbeidsmarkt met subsidies werkt niet
De Algemene Rekenkamer heeft verschillende subsidieregelingen doorgelicht waarmee de rijksoverheid de arbeidsmarkt beter wil laten functioneren. Conclusie: de subsidies,...
Rekenkamer: steeds haastiger beleid, controle onder druk
Controle op en verantwoording over nieuwe wetten en regels wordt lastiger, omdat er steeds vaker met haast nieuw beleid wordt gemaakt. Volgens de Algemene Rekenkamer...
Rekenkamer: Rijk is niet klaar om volgende crises te weerstaan
Het verantwoordingsonderzoek van de Algemene Rekenkamer naar de ontvangsten en uitgaven van de rijksoverheid in 2022 toont een dubbel beeld. Enerzijds is de rechtmatigheid...
Op Verantwoordingsdag moet blijken of boekhouding kabinet verbeterd is
Op 17 mei, Verantwoordingsdag, wordt duidelijk hoe de Algemene Rekenkamer oordeelt over de uitvoering van de plannen van het kabinet. Twee jaar op rij kreeg het...
Rekenkamer: kwetsbare burger dupe van incassopraktijk Rijk
Mensen met problematische schulden, die geld moeten terugbetalen aan de rijksoverheid, komen verder in de knel omdat er bij een aflossingsregeling onvoldoende rekening...