Nieuws 19 april 2017

Europees Parlement wil onder motorkap van robots kunnen kijken

Het Europees Parlement wil meer controle over algoritmische besluitvorming en speelt daarmee in op ontwikkelingen als robotisering, 'deep learning' en Artificial Intelligence. Dat blijkt uit een resolutie met aanbevelingen aan de Europese Commissie, over civielrechtelijke regels rondom robotica.

Nart Wielaard

De resolutie van het Europees Parlement maakt duidelijk dat de opkomst van algoritmes mooie en minder mooie kanten heeft. Lerende machines hebben "immense economische en innovatieve voordelen voor de samenleving" maar zorgen tegelijk voor nieuwe uitdagingen. Zoals het waarborgen van "niet-discriminatie, degelijke verwerking, transparantie en begrijpelijkheid in het besluitvormingsproces".

De resolutie heeft nog slechts de status van aanbeveling aan de Commissie, maar biedt wel stof tot nadenken. Een van de voorstellen is om geavanceerde robots uit te rusten met  een 'black box', die de gegevens registreert van elke handeling die de machine uitvoert, met inbegrip van de redeneringen die tot zijn beslissingen hebben bijgedragen. Een ander punt is dat "de mogelijkheid van controle en verificatie door mensen moeten worden ingebouwd in het proces van geautomatiseerde en algoritmische besluitvorming." 

Dat laatste sluit aan op de ambities van accountantskantoren, waarover recent werd bericht in het FD. Kantoren zien een nieuwe markt in het controleren of grootschalige verwerking door kunstmatige intelligentiesystemen tot eerlijke conclusies leidt. De resolutie schrijft in dit kader niet alleen over de mogelijkheid tot controle achteraf, maar ook: "Bijzondere aandacht verdienen de fasen van onderzoek en ontwikkeling in het desbetreffende technologische traject (ontwerpproces, ethische beoordeling, audits, enz.)." 

Verslaafd

Dat het hier om een uitdagend thema gaat is zeker. Uitleggen hoe een lerende machine conclusies trekt is waarschijnlijk op zeker moment niet meer mogelijk, menen experts. Een analyse van MIT Technology Review concludeert: “This might be impossible, even for systems that seem relatively simple on the surface, such as the apps and websites that use deep learning to serve ads or recommend songs. The computers that run those services have programmed themselves, and they have done it in ways we cannot understand. Even the engineers who build these apps cannot fully explain their behavior.” 

Zeker is dat lerende systemen in vrijwel alle segmenten van de samenleving een steeds grotere rol spelen en dat die samenleving verslaafd raakt aan data-analyse. Zo worden medisch specialisten bij het stellen van diagnoses steeds vaker ondersteund door systemen gebaseerd op kunstmatige intelligentie en selecteren recruiters hun kandidaten mede op basis van slimme algoritmes. Daarmee komt de vraag op of deze systemen wel de juiste dingen doen: of het 'onder de motorkap' wel deugt.

Gebruikers kunnen dat in veel gevallen niet zelf vaststellen, daarom is een nieuwe oplossing nodig om het vertrouwen hierin te borgen. Politiek lijkt daarvoor steeds meer aandacht te komen, zo blijkt ook uit de resolutie van het Europees Parlement.