Opinie 16 februari 2017

Onafhankelijk toezicht nodig op het toepassen van data in systemen

De dataficatie van de samenleving gaat samen met veel aandacht voor aspecten als privacy en veiligheid. Veel minder aandacht gaat uit naar de vraag of systemen onder de motorkap wel deugen en ons eerlijke en objectieve diensten leveren. Dat vraagstuk wordt steeds belangrijker en vraagt om een nieuw model voor het borgen van vertrouwen. Onafhankelijke, betrouwbare partijen moeten hierin een essentiële rol gaan vervullen.

Albert Röell en Sander Klous

De samenleving raakt verslaafd aan het analyseren van data en dat is niet verwonderlijk. Data-analyses maken ons leven immers elke dag mooier en gemakkelijker. Voorwaarde is wel dat er voldoende oog is voor een zorgvuldige toepassing van die analyses. Daarbij gaat het niet alleen om privacy en veiligheid. We willen immers ook dat de analyses voldoen aan onze normen en waarden.

Dat dit meer is dan een nuanceverschil laat het gebruik van een navigatiesysteem zien. Om je als gebruiker op een snelle manier van A naar B te brengen is het essentieel dat het systeem aan de volgende voorwaarden voldoet. De kwaliteit van de (kaart)data moet deugen, het algoritme - de instructies die worden meegegeven - moet onder alle omstandigheden tot een goed routeadvies komen en het routeadvies moet het belang van de bestuurder dienen. Van dat laatste is bijvoorbeeld geen sprake als het algoritme een voorkeur heeft voor routes langs een bepaald merk tankstation.

De laatste voorwaarde krijgt op dit moment relatief weinig aandacht, maar wordt met de week belangrijker nu wij in vrijwel alle facetten van ons leven steeds afhankelijker worden van algoritmes. Voorbeelden te over. Huisartsen bijvoorbeeld laten zich ondersteunen door beslissingsondersteunende systemen waarin algoritmes worden losgelaten op diverse databronnen. En dan hoop je maar dat deze daadwerkelijk in het belang van je gezondheid handelen. En recruiters laten algoritmes op zoek gaan naar de beste kandidaat voor een functie. In dit geval is het maar te hopen dat het algoritme daarbij niet discrimineert. De zelfrijdende auto die eraan komt is straks eigenlijk één groot algoritme. Het voertuig zal in situaties terechtkomen waarin wij als mensen regelmatig ethische afwegingen moeten maken.

Burgers moeten er kortom op kunnen vertrouwen dat het onder de motorkap - waar de data-analyse plaatsvindt - deugt. Zij kunnen dat immers in veel gevallen niet zelf vaststellen. En dus is er een nieuw model nodig om ons vertrouwen daarin te borgen, een model waarin onafhankelijke, betrouwbare partijen - de custodians - de vertrouwensrol op zich nemen.

Deze custodians bewaken niet alleen de wijze waarop wordt omgegaan met gemeenschappelijke toegang tot data en de daaraan gerelateerde controleerbare processen, maar ook of analyses voldoen aan onze normen en waarden. Niet alleen voor individuele organisaties, maar ook of misschien wel juist voor netwerken van organisaties die data delen. Vertrouwen is hierbij essentieel en we weten hoe snel vertrouwen kan verdampen in geval van incidenten.

Accountants weten als geen ander hoe ingewikkeld die rol is. Het vereist een organisatie waarbij het maatschappelijk belang bovenaan staat en de maatschappelijke vertrouwenspositie onder geen enkel beding geschaad mag worden. Dat betekent een vergaande bereidheid als custodian om transparant te zijn, nauw samen te werken met nationale en internationale toezichthouders en publiekelijk verantwoording af te leggen.

Het vergt daarnaast vertrouwen van zowel de overheid als primaire hoeder van verantwoorde analyse als het bedrijfsleven dat bereid moet zijn data en daaraan gerelateerde processen controleerbaar te maken en te delen. En het vergt tenslotte aanzienlijke investeringen en de bereidheid om langjarige verplichtingen aan te gaan in een snel veranderende omgeving. Het behoud van maatschappelijk vertrouwen in de slimme samenleving is de winst die op deze manier gemaakt kan worden en deze winst is onschatbaar.

Albert Röell is voorzitter van de raad van bestuur van KPMG Nederland. Sander Klous is partner bij KPMG. Hij geeft leiding aan Data & Analytics bij KPMG in Nederland en is tevens hoogleraar Big Data Ecosystemen aan de Universiteit van Amsterdam. 

Deze opinie is ook verschenen in het FD van 13 februari 2017.