Europees Parlement wil onder motorkap van robots kunnen kijken
Het Europees Parlement wil meer controle over algoritmische besluitvorming en speelt daarmee in op ontwikkelingen als robotisering, 'deep learning' en Artificial Intelligence. Dat blijkt uit een resolutie met aanbevelingen aan de Europese Commissie, over civielrechtelijke regels rondom robotica.
Nart Wielaard
De resolutie van het Europees Parlement maakt duidelijk dat de opkomst van algoritmes mooie en minder mooie kanten heeft. Lerende machines hebben "immense economische en innovatieve voordelen voor de samenleving" maar zorgen tegelijk voor nieuwe uitdagingen. Zoals het waarborgen van "niet-discriminatie, degelijke verwerking, transparantie en begrijpelijkheid in het besluitvormingsproces".
De resolutie heeft nog slechts de status van aanbeveling aan de Commissie, maar biedt wel stof tot nadenken. Een van de voorstellen is om geavanceerde robots uit te rusten met een 'black box', die de gegevens registreert van elke handeling die de machine uitvoert, met inbegrip van de redeneringen die tot zijn beslissingen hebben bijgedragen. Een ander punt is dat "de mogelijkheid van controle en verificatie door mensen moeten worden ingebouwd in het proces van geautomatiseerde en algoritmische besluitvorming."
Dat laatste sluit aan op de ambities van accountantskantoren, waarover recent werd bericht in het FD. Kantoren zien een nieuwe markt in het controleren of grootschalige verwerking door kunstmatige intelligentiesystemen tot eerlijke conclusies leidt. De resolutie schrijft in dit kader niet alleen over de mogelijkheid tot controle achteraf, maar ook: "Bijzondere aandacht verdienen de fasen van onderzoek en ontwikkeling in het desbetreffende technologische traject (ontwerpproces, ethische beoordeling, audits, enz.)."
Verslaafd
Dat het hier om een uitdagend thema gaat is zeker. Uitleggen hoe een lerende machine conclusies trekt is waarschijnlijk op zeker moment niet meer mogelijk, menen experts. Een analyse van MIT Technology Review concludeert: “This might be impossible, even for systems that seem relatively simple on the surface, such as the apps and websites that use deep learning to serve ads or recommend songs. The computers that run those services have programmed themselves, and they have done it in ways we cannot understand. Even the engineers who build these apps cannot fully explain their behavior.”
Zeker is dat lerende systemen in vrijwel alle segmenten van de samenleving een steeds grotere rol spelen en dat die samenleving verslaafd raakt aan data-analyse. Zo worden medisch specialisten bij het stellen van diagnoses steeds vaker ondersteund door systemen gebaseerd op kunstmatige intelligentie en selecteren recruiters hun kandidaten mede op basis van slimme algoritmes. Daarmee komt de vraag op of deze systemen wel de juiste dingen doen: of het 'onder de motorkap' wel deugt.
Gebruikers kunnen dat in veel gevallen niet zelf vaststellen, daarom is een nieuwe oplossing nodig om het vertrouwen hierin te borgen. Politiek lijkt daarvoor steeds meer aandacht te komen, zo blijkt ook uit de resolutie van het Europees Parlement.
Gerelateerd
EU-landen stemmen in met soepelere regels voor boeren
De EU-landen steunen de versoepeling van Europese klimaat- en milieuregels voor boeren. Als het Europees Parlement ook instemt, kunnen de mildere voorschriften in...
Europese Commissie start eerste DMA-zaken tegen techreuzen
De Europese Commissie heeft de eerste zaken tegen techreuzen Alphabet, Meta en Apple aangekondigd, in het kader van de nieuwe Digital Markets Act (DMA).
EU toch eens over CSDDD-wet voor verantwoord ondernemen
Europese regels voor bedrijven om misstanden bij hun buitenlandse toeleveranciers tegen te gaan, hebben toch de steun van de EU-landen gekregen. De wet voor internationaal...
Standaard NVCOS 720, de wereld op zijn kop
Door het integraal vertalen en overnemen van de IAASB ISA-auditstandaarden in de Nadere Voorschriften Controle en Overige Standaarden (NVCOS), doorkruist de NBA...
EU-kapitaalmarkttoezicht à la carte voor kabinet 'serieuze optie'
Minister van Financiën Steven van Weyenberg wil niet langer wachten met het overdragen van het toezicht op de kapitaalmarkt aan de Europese Unie. Nu een aantal EU-landen...