Cathy O'Neill heeft primeur van eerste algoritme audit
Algoritmes bepalen steeds meer en steeds vaker onze beslissingen. Volgens een groeiende groep deskundigen wordt het daarom tijd voor een deugdelijke controle daarop. Cathy O’Neill voegt de daad bij het woord, met voor zover bekend de eerste controle op een rating algoritme, van een Amerikaanse startup die huurappartementen een rating geeft.
Nart Wielaard
Big Brother is watching you, werd ons decennialang verteld, naar het afschrikwekkende voorbeeld van George Orwell's 1984. De werkelijkheid pakt echter anders uit: Big Brother is guiding you.
Algoritmes gidsen ons immers op steeds meer plaatsen door het leven. We komen ze tegen bij de zelfscankassa, waar een algoritme de winkelmandjes ter controle selecteert; bij de medisch specialist die mede op basis van data-analyse een diagnose stelt; bij de politie die op basis van data voorspelt in welke straten ze het beste kan gaan surveilleren; in geavanceerde vorm bij de zelfrijdende auto. En op nog tal van andere plaatsen.
'Er is veel kritiek dat algoritmes discrimineren of sociale verschillen uitvergroten.'
Gaat dat allemaal wel goed? Niet altijd natuurlijk. Er is veel kritiek dat algoritmes discrimineren of sociale verschillen uitvergroten. En ook (de makers van) algoritmen zijn niet foutloos en kunnen vooringenomen zijn. Dat is best gevaarlijk, vooral omdat we een tamelijk slaafs vertrouwen hebben in technologie. We nemen bijvoorbeeld alle suggesties van de spellingschecker voor zoete koek aan en blijken ons volgens onderzoek na wat koudwatervrees binnen een half uur te gaan vervelen in de zelfrijdende auto.
Gevaren
Prominente denkers waarschuwen voor de gevaren van algoritmes. De Rus Yevgeny Morozov sprak enkele jaren geleden al over 'onzichtbaar prikkeldraad' dat ons stuurt zonder dat we het in de gaten hebben en waarschuwt dat onze democratie op het spel staat. Yuval Noah Harari muntte de term 'dataïsme' toen hij in zijn bestseller Homo Deus beschreef hoe algoritmes het winnen van mensen. En de titel Weapons of Math Destruction van mathbabe Cathy O’Neils boek over de impact van algoritmes op de maatschappij is ook veelzeggend.
Zij gaat er echter ook wat aan doen: ze gaat audits uitvoeren. Blijkens een artikel in Wired heeft ze onlangs het spits afgebeten met de controle van een algoritme van een startup, die in kaart brengt hoe huurders en verhuurders van woonruimte scoren op een aantal aspecten. Het artikel geeft een - weliswaar oppervlakkig - inkijkje in hoe ze dat doet.
Verwachtingen
Bij de geboorte van zo'n nieuwe tak van sport is nog veel kritiek mogelijk. Een van de vragen is welke norm wordt gehanteerd bij de controle - voor accountants een essentieel punt. Daarmee samenhangend: welke verwachtingen leven er bij welke stakeholders? De volgende verwachtingskloof ligt immers op de loer als auditors dit domein betreden.
'Een van de vragen is welke norm wordt gehanteerd bij de controle.'
O’Neill lijkt zich te realiseren dat het niet meer dan een eerste vingeroefening is. Maar je moet ergens beginnen: "This is a subjective thing. But I would say our biggest problem isn’t that we have the wrong conversations. My concern is that the conversations aren’t happening at all."
Het is overigens bepaald geen thema dat alleen maar speelt in de Silicon Valley startup scene. Ook dichterbij komen deze vraagstukken op. Sander Klous en ondergetekende pleiten in het boek Vertrouwen in de Samenleving voor nieuwe vormen van toezicht op de algoritmes die ons leven bepalen. En Paul Strijp (provincie Noord-Holland) riep in een essay in Binnenlands Bestuur op om accountants en (lokale) overheden de controle van algoritmes ter hand te laten nemen. Hij ziet twee opties. "De eerste is: experimenteren met een accountantsverklaring of een ethisch programma, trial and error. De tweede optie luidt: berusten, niets doen. Onder ogen zien dat we zo langzamerhand op een moment in onze geschiedenis zijn beland dat de technologie ons de baas wordt."
Gerelateerd
KPMG: Bekendheid met algoritmes groeit, vertrouwen daalt
Het vertrouwen in algoritmes blijft al vijf jaar fors dalen. Het vertrouwen daalde dit jaar met 22 procent ten opzichte van vorig jaar, wat in lijn is met de dalingen...
Accounttech: samen een algoritme bouwen, documenteren en controleren
De Accounttech Werkgroep AI en Algoritmes organiseert bij de NBA drie middagen in het kader van een 'code- en audit-challenge'. Doel is kennis delen en ervaringen...
Diverse algoritmes overheid werken volgens Rekenkamer ondermaats
De Algemene Rekenkamer constateert dat diverse algoritmes van de overheid niet aan de basiseisen voldoen. Zes van de negen onderzochte uitvoeringsorganisaties scoorden...
AFM wordt meest data driven accountantskantoor van Nederland
De AFM wordt volgens Pieter de Kok de komende vijf jaar een accountantskantoor 5.0, dankzij de toegang tot ruim achtduizend mini-datasets.
Open Up The Blackbox
Na een aantal klankbordsessies besloot Pieter de Kok zijn spaarzame vrije tijd aan een nieuw initiatief te besteden.