Nart Wielaard

Handig hoor, die aanbevelingen van Amazon. Over wat u mogelijk ook interesseert of over hoe u de beste deal kunt krijgen voor uw geld. Maar hoe komen die aanbevelingen eigenlijk tot stand?

In september vorig jaar bleek uit een onderzoek dat die aanbevelingen - gedaan op basis van algoritmen - bepaald niet altijd in uw belang zijn en vooral in die van het bedrijf zelf. Amazon vertoonde dus evil gedrag. Het is maar een klein voorbeeld om te laten zien dat er in rap tempo een nieuw vraagstuk aan het ontstaan is: hoe organiseren we vertrouwen dat er onder de motorkap van nieuwe technologie - big data, artificial intelligence, machine learning - de juiste dingen gebeuren? En… hebben accountants daarin wellicht een rol te spelen?

'Hoe organiseren we vertrouwen dat er onder de motorkap van nieuwe technologie de juiste dingen gebeuren?'

Feit is dat het thema hoog op de agenda staat. Een niet te missen signaal is dat het World Economic Forum er aandacht voor vraagt en zich daarbij ook waagt aan een doorkijkje naar een mogelijke toekomst van hoe AI in ons leven een rol zou kunnen spelen: "Thirty years from now we'll wonder how we ever got along without our telepathic digital assistants, just as we can't imagine life today without checking our smartphones a dozen times each hour." Die digitale assistenten spelen ook vandaag al een rol, in rudimentaire vorm. En als we slaafs de aanwijzingen van die assistenten opvolgen dan levert dat ook nu al risico's op. In het Amerikaanse Death Valley - een uitgestrekte woestijn waar temperaturen kunnen oplopen tot vijftig graden - zijn gevallen bekend van mensen die hun navigatiesysteem volgden, compleet van het pad raakten en uiteindelijk hun urine moesten drinken om death by gps te voorkomen.

Natuurlijk is dat allemaal wat anekdotisch. Maar toch is er wel degelijk sprake van een groot vraagstuk. Het Amerikaanse magazine Forbes schrijft bijvoorbeeld: "As AI and algorithms in general play an ever-greater role in defining our world, we must do a better job of understanding how they work and the future they are racing us towards."

Met andere woorden: wie ziet erop toe dat die digitale assistenten wel de juiste dingen doen? Dat gaat verder dan vaststellen of de juiste data worden gebruikt. Het gaat er (vooral) om vast te stellen hoe die data worden gebruikt om tot een advies of een beslissing te komen.

'Wie ziet erop toe dat die digitale assistenten wel de juiste dingen doen?'

Heeft de accountant/auditor hierin een rol te spelen? Het is een vraag die voorzichtig opkomt, al gaan de meeste discussies nu nog vooral over de vraag hoe de beroepsgroep de technologie gaat inzetten en maar mondjesmaat over de vraag of zij de technologie ook kan begrijpen en doorlichten. Antwoorden zijn er nog niet echt. Tijdens het voorjaarssymposium 2016 van de NOREA ontspon zich tijdens een sessie over big data een leuke discussie over de vraag of een auditor de werking van een algoritme moet beoordelen of daarvoor moet steunen op de expertise van een specialist. In het laatste geval werk je er als auditor dus eigenlijk om heen.

'Toen we in 1969 een mens op de maan plaatsten, was er daarbij sprake van 145.000 regels software code.'

De discussie leverde (begrijpelijkerwijs) nog geen kant en klaar antwoord op en deed denken aan de klassieke discussie van een paar decennia terug over een audit around the computer. Wie in de artikelen over dit thema het woord 'computer' vervangt door 'algoritme' heeft waarschijnlijk een zeer actueel artikel in handen.

Met één groot verschil: er is inmiddels sprake van een complexiteit die voor mensen niet meer te bevatten is. Toen we in 1969 een mens op de maan plaatsten, was er daarbij sprake van 145.000 regels software code. Een halve eeuw later draait Google naar schatting op twee miljard regels. Ga er maar aan staan.