Algoritme

Cathy O'Neill heeft primeur van eerste algoritme audit

Algoritmes bepalen steeds meer en steeds vaker onze beslissingen. Volgens een groeiende groep deskundigen wordt het daarom tijd voor een deugdelijke controle daarop. Cathy O’Neill voegt de daad bij het woord, met voor zover bekend de eerste controle op een rating algoritme, van een Amerikaanse startup die huurappartementen een rating geeft.

Big Brother is watching you, werd ons decennialang verteld, naar het afschrikwekkende voorbeeld van George Orwell's 1984. De werkelijkheid pakt echter anders uit: Big Brother is guiding you.

Algoritmes gidsen ons immers op steeds meer plaatsen door het leven. We komen ze tegen bij de zelfscankassa, waar een algoritme de winkelmandjes ter controle selecteert; bij de medisch specialist die mede op basis van data-analyse een diagnose stelt; bij de politie die op basis van data voorspelt in welke straten ze het beste kan gaan surveilleren; in geavanceerde vorm bij de zelfrijdende auto. En op nog tal van andere plaatsen.

'Er is veel kritiek dat algoritmes discrimineren of sociale verschillen uitvergroten.'

Gaat dat allemaal wel goed? Niet altijd natuurlijk. Er is veel kritiek dat algoritmes discrimineren of sociale verschillen uitvergroten. En ook (de makers van) algoritmen zijn niet foutloos en kunnen vooringenomen zijn. Dat is best gevaarlijk, vooral omdat we een tamelijk slaafs vertrouwen hebben in technologie. We nemen bijvoorbeeld alle suggesties van de spellingschecker voor zoete koek aan en blijken ons volgens onderzoek na wat koudwatervrees binnen een half uur te gaan vervelen in de zelfrijdende auto.

Gevaren

Prominente denkers waarschuwen voor de gevaren van algoritmes. De Rus Yevgeny Morozov sprak enkele jaren geleden al over 'onzichtbaar prikkeldraad' dat ons stuurt zonder dat we het in de gaten hebben en waarschuwt dat onze democratie op het spel staat. Yuval Noah Harari muntte de term 'dataïsme' toen hij in zijn bestseller Homo Deus beschreef hoe algoritmes het winnen van mensen. En de titel Weapons of Math Destruction van mathbabe Cathy O’Neils boek over de impact van algoritmes op de maatschappij is ook veelzeggend.

Zij gaat er echter ook wat aan doen: ze gaat audits uitvoeren. Blijkens een artikel in Wired heeft ze onlangs het spits afgebeten met de controle van een algoritme van een startup, die in kaart brengt hoe huurders en verhuurders van woonruimte scoren op een aantal aspecten. Het artikel geeft een - weliswaar oppervlakkig - inkijkje in hoe ze dat doet.

Verwachtingen

Bij de geboorte van zo'n nieuwe tak van sport is nog veel kritiek mogelijk. Een van de vragen is welke norm wordt gehanteerd bij de controle - voor accountants een essentieel punt. Daarmee samenhangend: welke verwachtingen leven er bij welke stakeholders? De volgende verwachtingskloof ligt immers op de loer als auditors dit domein betreden.

'Een van de vragen is welke norm wordt gehanteerd bij de controle.'

O’Neill lijkt zich te realiseren dat het niet meer dan een eerste vingeroefening is. Maar je moet ergens beginnen: "This is a subjective thing. But I would say our biggest problem isn’t that we have the wrong conversations. My concern is that the conversations aren’t happening at all."

Het is overigens bepaald geen thema dat alleen maar speelt in de Silicon Valley startup scene. Ook dichterbij komen deze vraagstukken op. Sander Klous en ondergetekende pleiten in het boek Vertrouwen in de Samenleving voor nieuwe vormen van toezicht op de algoritmes die ons leven bepalen. En Paul Strijp (provincie Noord-Holland) riep in een essay in Binnenlands Bestuur op om accountants en (lokale) overheden de controle van algoritmes ter hand te laten nemen. Hij ziet twee opties. "De eerste is: experimenteren met een accountantsverklaring of een ethisch programma, trial and error. De tweede optie luidt: berusten, niets doen. Onder ogen zien dat we zo langzamerhand op een moment in onze geschiedenis zijn beland dat de technologie ons de baas wordt."

reacties

Reageren op een artikel kan tot drie maanden na plaatsing. Reageren op dit artikel is daarom niet meer mogelijk.

    Gerelateerd

    Afbeelding Nieuws

    Hans Verkruijsse: Traditionele accountant moet met tijd mee anders is het einde verhaal

    De paradigmaverschuiving van documentuitwisseling naar data-uitwisseling heeft grote gevolgen voor de bestuurlijke informatieverzorging en voor het beroep van accountant. De traditionele werkzaamheden van de externe accountant gaan steeds verder verschuiven naar de interne-auditfunctie. Dat stelt prof.dr. Hans Verkruijsse RE RA in zijn afscheidsrede die hij op 9 november uitspreekt bij Tilburg University.

    x 3

    Aanmelden nieuwsbrief

    Ontvang elke werkdag (maandag t/m vrijdag) de laatste nieuwsberichten, opinies en artikelen in uw mailbox.

    Bent u NBA-lid? Dan kunt u zich ook aanmelden via uw ledenprofiel op MijnNBA.nl.