Opinie

Maak controle op algoritmen uitvoerbaar

Regeringspartij VVD wil dat bedrijven en overheden jaarlijks rapporteren of hun algoritmen eerlijk en betrouwbaar zijn. In een recente nota aan het kabinet vraagt de VVD om het toezicht te regelen en daar accountants bij in te schakelen. Een belangrijke stap in het paal en perk stellen aan de risico’s van een algoritmiserende samenleving. Maar zonder toetsingskader geen toezicht.

Een algoritme komt er niet zomaar. Het ontstaat vaak uit de gezonde behoefte om beslissingen te automatiseren. Om beslissingen sneller, beter of uitgebreider te kunnen maken. Beslissingen die tot dan aan toe werden genomen door mensen. Soms op basis van strikte protocollen, maar minstens net zo vaak vanuit een onderbuikgevoel - expert judgment. Hierin zit voor algoritmes de uitdaging: volautomatisch recht doen aan de nuances die hierbij komen kijken.

Kwaliteit van en vertrouwen in een algoritme moet bij de bron beginnen. Bij het stellen van duidelijke, eenduidige eisen aan het functioneren van het algoritme en het maken van zorgvuldige keuzes bij het ontwerpen, ontwikkelen en implementeren ervan. Dat betekent dat de primaire verantwoordelijkheid voor kwaliteit en vertrouwen ligt bij de organisaties en overheden die het algoritme ontwikkelen. Accountants kunnen dit vertrouwen verder versterken, door te controleren of het algoritme doet wat het hoort te doen en door het stellen van kritische vragen die in het maatschappelijk belang zijn.

Nu is het toetsen van algoritmes voor accountants geen onontgonnen gebied. Softwarecode wordt al jarenlang aan (vrijwillige) toetsing onderworpen. De actuele uitdagingen ten aanzien van toetsing ontstaan doordat software zich dieper in de samenleving wortelt en steeds complexer wordt. Bij het toetsen van deze algoritmische onderbuik lopen we tegen een aantal uitdagingen aan.

Ten eerste een gebrek aan maatschappelijk algemeen geaccepteerde principes voor eerlijke en betrouwbare algoritmen. Vergelijk het met richtlijnen voor jaarverslaggeving die in de context van jaarrekeningcontroles de vereisten ten aanzien van het toetsingsobject - de jaarrekening - definiëren. Zonder een referentiekader dat door dergelijke principes wordt verschaft staan we nog ver af van een redelijk consistente evaluatie van algoritmen. Initiatieven hiervoor zijn inmiddels gestart.

Ten tweede: daar waar er in de praktijk handvatten zijn die normstellend zouden kunnen zijn voor algoritmen, zien die over het algemeen toe op 'harde' aspecten, zoals data en technologie, en niet op 'softe' aspecten, zoals maatschappelijk geaccepteerd gedrag. En laat dat laatste nu wel eens 'in the eye of the beholder' zijn. Organisaties moeten zelf helderheid scheppen over welk gedrag ze accepteren van hun algoritmes.

Ten derde moeten toetsingsnormen, om tot een consistente evaluatie van algoritmen te komen, ook van een zekere kwaliteit zijn. Als we een parallel leggen met de huidige controlestandaarden voor accountants, geldt dat de normen in ieder geval relevant, volledig, betrouwbaar, neutraal en begrijpelijk moeten zijn. Een principe als "een algoritmisch besluit zal geen mens benadelen" volstaat immers niet als duidelijke en eenduidige norm om naast een stuk programmacode te leggen. Het streven is goed, maar volledig is het niet.

Het initiatief van de VVD richting het kabinet is een belangrijke stap om het maatschappelijk vertrouwen in algoritmen in het wettelijk kader te verankeren. Tegelijkertijd tonen vergelijkbare internationale ontwikkelingen aan dat er ook snel aandacht moet komen voor de manier waarop hieraan nadere invulling wordt gegeven.

Wat ons betreft zijn de hierboven genoemde uitdagingen een belangrijk onderdeel van het uitvoerbaar maken van vertrouwen in een algoritmiserende samenleving en is dat vertrouwen een gecombineerde inspanning: van ontwikkelaars van algoritmen tot toezichthouders.

Wat vindt u van deze opinie?

Reacties 46 6 Spelregels debat

Gerelateerd

reacties

Reageer op dit artikel

Spelregels debat

    Aanmelden nieuwsbrief

    Ontvang elke werkdag (maandag t/m vrijdag) de laatste nieuwsberichten, opinies en artikelen in uw mailbox.

    Bent u NBA-lid? Dan kunt u zich ook aanmelden via uw ledenprofiel op MijnNBA.nl.