Algemene Rekenkamer ontwikkelt toetsingskader voor algoritmes
De Algemene Rekenkamer heeft een toetsingskader ontwikkeld dat beter overzicht en betere kwaliteitscontroles biedt bij de ontwikkeling van algoritmes.
Net als bedrijven zet de rijksoverheid steeds vaker algoritmes in om handelingen te automatiseren, een probleem op te lossen of een voorspelling te doen. De toets test een algoritme op aspecten van sturing en verantwoording, model en data, privacy-waarborgen, kwaliteit van de IT general controls (ITGC, zoals wie heeft toegang en hoe wordt met back-ups omgegaan) en ethische vragen. "Bij ethische vragen staat de menselijke maat centraal. Doel van deze toets is het opsporen van mogelijke zwakheden bij het gebruik van algoritmes", aldus de Rekenkamer.
De Rekenkamer nodigt de overheid uit dit toetsingskader, tot stand gekomen met inbreng van experts van binnen en buiten de rijksoverheid, ook als basis te gebruiken bij de ontwikkeling van nieuwe algoritmes.
Rapport
Het toetsingskader is onderdeel van het rapport 'Aandacht voor algoritmes'. Dit rapport belicht de kansen, bedreigingen en mythes over algoritmes, en is digitaal beschikbaar. De Algemene Rekenkamer stelt vast dat bij algoritmes niet de burger, maar de overheid centraal staat. "Er is bij de overheid oog voor de privacy van burgers, maar ethische aspecten krijgen weinig aandacht. Daartoe behoren dat algoritmes niet discrimineren, rekening houden met diversiteit van de bevolking en controleerbaar zijn door menselijke tussenkomst", aldus de Rekenkamer. "Burgers moeten het gebruik en de werking van een algoritme kunnen begrijpen. Ook moeten zij weten waar zij terecht kunnen met vragen of bezwaren. Zorgen of twijfels over algoritmes verdienen serieuze aandacht."
Een verantwoorde ontwikkeling naar complexere geautomatiseerde toepassingen vereist volgens de Rekenkamer beter overzicht en betere kwaliteitscontrole, waar het nieuwe toetsingskader in moet voorzien. Het toetsingskader gaat daarbij in op ethische vragen en geeft ook aan dat vragen van bezorgde burgers over algoritmes meer aandacht verdienen.
Zorgen
Via algoritmes kunnen grote hoeveelheden data gecombineerd en geanalyseerd worden, maar gebruik ervan raakt belangen van burgers en bedrijven. Nu zijn het veelal nog eenvoudige algoritmes in processen voor bedrijfsvoering of dienstverlening, zoals het geautomatiseerd versturen van antwoordbrieven of een eerste selectie voor uitkeringen. Maar soms zet de rijksoverheid al innovatieve algoritmes in, al dan niet met gebruik van artificiële intelligentie.
Ministeries en uitvoeringsorganisaties als UWV en Sociale Verzekeringsbank hebben op verzoek vele tientallen algoritmes aangereikt bij de Rekenkamer. Volledig zelflerende algoritmes (die beleid uitvoeren zonder tussenkomst van een mens) heeft de Rekenkamer daar niet bij aangetroffen.
In de samenleving bestaan zorgen over het gebruik van algoritmes, wat met name rondom de toeslagenaffaire zichtbaar werd. Verkeerd gebruik van een dataverzameling kan een discriminerende werking hebben als deze vooroordelen bevat. Zo vonniste vorig jaar een rechter dat het door overheden voor uitkeringsdoelen gebruikte systeem Syri discriminerend werkt, waarop het gebruik werd stopgezet.
Gerelateerd
Coronacrisis zorgt voor snelste stijging staatsschuld sinds 2008
Door de coronacrisis heeft de overheid vorig jaar 43 miljard euro meer uitgeven dan er binnenkwam. Dat zorgde ervoor dat de overheidsschuld opliep naar 379 miljard...
ING toch weer huisbankier overheid, ondanks witwasschandaal
Het betalingsverkeer van de overheid wordt de komende tijd toch geregeld door ING. Na de schikking die het Openbaar Ministerie trof met de bank vanwege de witwasaffaire,...
Geen BSN-nummer meer vermelden op loonstroken en jaaropgaven
Het Burger Service Nummer (BSN) mag van de Autoriteit Persoonsgegevens (AP) niet voorkomen in het advies- en aanvraagtraject van een financieel product. Brancheorganisaties...
Commissie is niet tevreden met accountantscontrole bij Forum voor Democratie
De Commissie toezicht financiën politieke partijen (Ctfpp), die jaarlijks adviseert over de verantwoordingsdocumenten van de politieke partijen, is niet tevreden...
Verantwoordingsdag: fors overschot, investeringen en lastenverlichting in 2019
Nedeland genoot in de afgelopen jaren in historisch opzicht van een "zeldzame gebeurtenis", namelijk opeenvolgende jaren met een overschot op de begroting.