Diverse algoritmes overheid werken volgens Rekenkamer ondermaats
De Algemene Rekenkamer constateert dat diverse algoritmes van de overheid niet aan de basiseisen voldoen. Zes van de negen onderzochte uitvoeringsorganisaties scoorden ondermaats, door onder meer vooringenomenheid, datalekken of ongeautoriseerde toegang.
In het onderzoek ‘Algoritmes getoetst’ onderzocht de Rekenkamer, op basis van risicoselectie, negen algoritmes die in gebruik zijn bij evenzovele uitvoeringsorganisaties van de rijksoverheid en werden beoordeeld op hun werking.
De politie kwam het slechtst uit het onderzoek van de Rekenkamer en scoorde op alle toetsingspunten onvoldoende. Zo maakte de politie gebruik van historische data van bijvoorbeeld wijken, om via kansberekening de te verwachten criminaliteit aldaar te bepalen. "Doordat in het verleden bepaalde wijken intensiever zijn gecontroleerd, is de kans groot dat in de voorspellingen onwenselijke systematische afwijkingen ontstaan", zo meldt de Rekenkamer in zijn rapport.
Overheidsorganisaties die goed scoorden waren het Centraal Bureau Rijvaardigheidsbewijzen, het Centraal Justitieel Incasso Bureau en het Inlichtingenbureau, dat de uitwisseling van (persoons)gegevens tussen gemeenten en overheidsinstanties faciliteert.
Kans op discriminatie
Wanneer een algoritme niet goed wordt ingezet, is er volgens de Rekenkamer kans op discriminatie of zijn persoons- of bedrijfsinformatie niet veilig opgeslagen. Een bekend voorbeeld is de kindertoeslagenaffaire, waarbij mensen met een laag inkomen door een algoritme automatisch in het vizier van de Belastingdienst kwamen voor een fraudecontrole.
Burgers en bedrijven "moeten erop kunnen vertrouwen dat de inzet van algoritmes door de rijksoverheid op een verantwoorde wijze plaatsvindt", aldus de Rekenkamer. Zonder de inzet ervan is beleid niet uitvoerbaar, omdat algoritmes miljoenen handelingen per maand verrichten.
Het onderzoeksrapport is op 18 mei, gelijktijdig met het verantwoordingsonderzoek over 2021, gepubliceerd en naar de Tweede en Eerste Kamer gestuurd.
Gerelateerd
EU-subsidies doen ertoe, maar sturing en inzicht moet beter
Het ontbreekt op landelijk niveau aan een goede inhoudelijke onderbouwing hoe beschikbare budgetten uit de EU-fondsen verdeeld moeten worden. Ook is de sturing hoe...
Accounttech: samen een algoritme bouwen, documenteren en controleren
De Accounttech Werkgroep AI en Algoritmes organiseert bij de NBA drie middagen in het kader van een 'code- en audit-challenge'. Doel is kennis delen en ervaringen...
Taskforce moet boekhouding overheid weer op orde brengen
Om de boekhouding van de overheid weer op orde te brengen tuigt minister Sigrid Kaag van Financiën een 'taskforce' op. Die moet zorgen dat het kabinet teruggaat...
Rekenkamer: Uitvoering en controle NOW op orde
De Algemene Rekenkamer geeft de minister van SZW en het UWV een compliment voor de wijze waarop deze regeling is uitgevoerd en hoe de controle erop is ingericht....
Rekenkamer: Rechtmatigheid bestedingen verder onder druk
Van bijna vijf procent van alle verplichtingen die de rijksoverheid in 2021 aanging en die leiden tot uitgaven in de toekomst, staat de rechtmatigheid niet vast....