Nieuws 17 december 2018

KPMG ontwikkelt tool om gebruik algoritmen te toetsen

Om een verantwoord en betrouwbaar gebruik van kunstmatige intelligentie in de besluitvorming bij publieke diensten te waarborgen heeft KPMG 'AI In Control' ontwikkeld. De tool omvat een aantal instrumenten die organisaties helpt controles uit te voeren op de algoritmen.

Deze instrumenten helpen bij het beheren en beschermen van de integriteit, de kwaliteit en de nauwkeurigheid van beslissingen die op basis van AI-technologieën worden gegenereerd, zegt Sander Klous, partner bij KPMG en internationaal verantwoordelijk voor de dienstverlening op het gebied van AI Assurance.

"Algoritmen dicteren in toenemende mate ons leven. Zij bepalen hoeveel krediet je kunt krijgen, naar welke school iemand gaat, stellen gezondheidsdiagnoses en voorspellen criminele activiteiten. Het toenemende gebruik van kunstmatige intelligentie vereist dat de technologie betrouwbaar is en het gebruik ethisch verantwoord. Nu steeds meer organisaties op weg zijn naar een digitale transformatie, is het van groot belang dat bestuurders en leidinggevenden die dat proces begeleiden kunnen vertrouwen op de analyses en beslissingen die algoritmen voor hun organisatie genereren. De groeiende behoefte aan vertrouwen in beslissingen die door AI worden gegenereerd, brengt met zich mee dat de aandacht nu ook uitgaat naar organisaties die deze technologieën ontwikkelen en naar hun verantwoordelijkheid voor het waarborgen van de kwaliteit", aldus Klous.

Amsterdam toetst digitale dienstverlening

"Met AI In Control is KPMG in staat de black box van algoritmen te openen en te voorzien van de juiste controlemechanismen", aldus het kantoor. De gemeente Amsterdam zet deze nieuwe dienst in om de kwaliteit te toetsen van de algoritmen die de stad inzet bij haar digitale dienstverlening. Amsterdam heeft een open source-systeem ontwikkeld waarbij bewoners en bedrijven eenvoudig online meldingen kunnen indienen, bijvoorbeeld over afval op straat. Zodra het verzoek is ingediend, identificeert een algoritme het soort melding en adviseert welke afdeling het verzoek afhandelt. "In de nabije toekomst zal de applicatie ook de prioriteit van de aanvraag bepalen. Door zelflerende technologie zal de besluitvorming van het algoritme in de loop van de tijd verbeteren. AI in control stelt de gemeente in staat deze processen te begeleiden en te bewaken", zegt Frank van Praat van KPMG's IT Advisory & Assurance.

Samen met Barcelona en New York City heeft Amsterdam onlangs de Cities Coalition for Digital Rights opgericht. "We willen de digitale rechten van alle Amsterdammers beschermen en we hebben de verantwoordelijkheid om transparant te zijn over de algoritmes die wij maken om gemeentelijke diensten te verbeteren", aldus Ger Baron, chief technology officer van de gemeente Amsterdam.

Bij de ontwikkeling van het instrumentarium om algoritmen te kunnen controleren werkt KPMG nauw samen met Cathy O'Neil, ceo van O'Neil Risk Consulting en Algorithmic Auditing, Inc. (ORCAA) en auteur van het boek Weapons of Math Destruction.