Artificiële intelligentie

Het einde van de waarheid: Hoe wetgeving achter de feiten (en fictie) van AI aanholt

AI creëert een compleet nieuw speelveld voor het genereren van onjuiste informatie, van deep fake video's tot compleet verzonnen teksten. Wat kan wet- en regelgeving doen om dat te beheersen? De komst van tools zoals ChatGPT maakt eens te meer duidelijk dat het tempo van de technologie per definitie hoger ligt dan dat van nieuwe wetgeving.

Nart Wielaard

Het goede nieuws: Wetgevers en toezichthouders zijn bepaald niet tandeloos tegenover grote technologiebedrijven en hun vermeende onwil om desinformatie tegen te gaan. Zeker niet in Europa. Een markant moment was toen Thierry Breton, de eurocommissaris voor Interne Markt, half oktober jl. snel in actie kwam na het opgelaaide geweld in Israël en de Gazastrook. Binnen een paar dagen schreef hij een brief waarin hij Elon Musk als eigenaar van X (waarschijnlijk ten overvloede) wees op het bestaan van de Digital Services Act. Deze Europese regelgeving was een paar maanden daarvoor, na een jarenlang traject, goedgekeurd om burgers te beschermen tegen onder meer verspreiding van onjuiste informatie en misbruik van persoonlijke gegevens door grote platforms zoals X, Facebook en nog een dozijn grote spelers (aan wetgeving voor de categorie daaronder wordt momenteel nog gewerkt).

Grafisch beeld van robothoofd

De Franse eurocommissaris schreef in de brief dat hij aanwijzingen heeft dat X wordt gebruikt om illegale inhoud en desinformatie in de EU te verspreiden, wilde van Musk horen hoe hij zich aan de wet houdt en wees hem er ook op dat er een boete kan volgen van zes procent van de inkomsten. In het uiterste geval kan Breton X zelfs de toegang op het internet in de EU ontzeggen.

'Het maatschappelijk debat klonk eigenlijk als een versleten langspeelplaat die maar blijft hangen en toonde ook weer aan hoe ingewikkeld dit thema is.'

De reacties op de brief waren stevig en tamelijk voorspelbaar. Musk zelf vroeg de eurocommissaris om voorbeelden. Voorstanders applaudisseerden over de actie van Breton en meenden dat het goed was om Musk op zijn verantwoordelijkheden te wijzen. En tegenstanders proclameerden dat het hek nu echt van de dam ging op het vlak van overheidscensuur: een Orwelliaans ministry of truth is niet ver weg meer. Het maatschappelijk debat klonk eigenlijk als een versleten langspeelplaat die maar blijft hangen en toonde ook weer aan hoe ingewikkeld dit thema is. Want de kernvraag is steeds dezelfde: Hoe bepaal je wat wel en niet waar is? Dat is een vraag waar je om meerdere redenen - waarvan enkele zijn behandeld in deze serie - eigenlijk niet uitkomt.

Piramide

Niettemin: De Europese Commissie heeft dus in elk geval de wettelijke basis om tanden te laten zien. En dat is ook een breuk met het wat passieve verleden. De DSA introduceert een piramide met vier categorieën digitale toepassingen. De zwaarste categorie - waarbij grondrechten worden geschonden of de veiligheid van mensen in het geding is - is simpelweg verboden in Europa. Denk daarbij aan systemen die het gedrag van mensen beoordelen en het gebruik van realtime biometrische identificatie. Voor de drie categorieën daaronder bestaan verschillende regimes van voorwaarden en toezicht. Het gaat achtereenvolgens om hoog risico - bijvoorbeeld in medische hulpmiddelen, beperkt risico - bijvoorbeeld bij het gebruik van voice- of chatbots en minimaal risico - zoals zoekmachines of aanbevelingsalgoritmen.

'De schaal waarop desinformatie zich afspeelt, is zonder meer groter dan pakweg tien jaar geleden, maar het fenomeen zelf is niet nieuw.'

Het wetsvoorstel werd echter ontwikkeld nog voordat er (eind 2022) een hausse aan generatieve AI-toepassingen - waaronder ChatGPT - opkwam en moest dan ook onder hoge tijdsdruk nog even worden aangepast aan die actualiteit. Een van de onvoorziene zaken was dat je als gebruiker van deze tools zelf bepaalt wat je ermee doet. In de wet werd vooral uitgegaan van het reguleren van professionele gebruikers. Concreter: Volgens het wetsvoorstel moet een systeem laten weten aan een gebruiker of deze met een mens of met AI communiceert. Maar het wetsvoorstel rept niet over de vraag of je als gebruiker zelf moet laten weten of je een foto of tekst produceert met behulp van AI. De uitkomst van de last minute aanpassing aan de actualiteit is een compromis: De regels vallen voor deze tools bijna net zo streng uit als voor toepassingen die onder 'hoog risico' vallen.

Auteursrecht

Dan is er ook nog een ander gebied waar de wetgeving 'opeens' kreeg te maken met terra incognita als gevolg van de snelle ontwikkelingen. Dat heeft te maken met het feit dat de AI-modellen het hele internet afgrazen op zoek naar beschikbare teksten om zichzelf steeds verder te verbeteren. Daarmee komt de vraag op of dat geen schending van auteursrecht is. In de Verenigde Staten zijn meerdere rechtszaken aangespannen tegen OpenAI, voor het gebruik van datasets die illegaal gekopieerde werken bevatten. En als dergelijke rechtszaken in het nadeel van OpenAI zouden uitvallen, speculeren experts erop dat dat zomaar het einde van de AI-toepassing zou kunnen inluiden.

EU eens over regels voor AI

De EU-landen en het Europees Parlement hebben een voorlopig akkoord bereikt over regels voor AI.

De Europese Unie is de eerste die de technologie aan banden legt. De onderhandelaars moeten het akkoord nog wel voorleggen aan het voltallige EU-parlement en de EU-lidstaten, maar dat is doorgaans een formaliteit. De nieuwe Europese AI-wet deelt AI-toepassingen in op risico. Hoe meer gevaren een toepassing in zich draagt, hoe strenger de regels. Breed inzetbare AI-toepassingen als ChatGPT moeten openheid geven over hoe ze te werk gaan en rekening houden met het auteursrecht op teksten en andere gegevens die ze gebruiken. De nieuwe regels kunnen, als ze begin 2024 officieel worden aangenomen, in de loop van 2026 van kracht worden.

Tot slot een relativering. De schaal waarop desinformatie zich afspeelt, is zonder meer groter dan pakweg tien jaar geleden, maar het fenomeen zelf is niet nieuw. Onderzoek op de site van het Wetenschappelijk Onderzoek- en Documentatiecentrum uit 2022 legt wat dat betreft de vinger op de juiste plek: Waarschijnlijk is bestaande wetgeving voor een groot deel al prima om makers en verspreiders van desinformatie aan te pakken. Maar de angel zit in de handhaving. En daarmee zijn we weer terug bij de tanden van Eurocommissaris Breton. Is er straks in heel Europa voldoende handhavingsmacht, die ook echt kan bijten als dat nodig is?

Dit is het tiende en laatste deel van een reeks bijdragen waarin Nart Wielaard op zoek is naar waarheid in een digitale wereld en wat dat betekent voor de accountant. Op de recente Accountantsdag, eind november in Leusden, sprak Nart tijdens twee sessies met experts over AI en het accountantsberoep.

Nart Wielaard werkt op het snijvlak van maatschappij, technologie en bedrijfsleven. Hij brengt complexe ontwikkelingen terug tot eenvoudige en begrijpelijke verhalen en doet dat in de rol van gespreksleider, adviseur en schrijver.

Gerelateerd

reacties

Reageer op dit artikel

Spelregels debat

    Aanmelden nieuwsbrief

    Ontvang elke werkdag (maandag t/m vrijdag) de laatste nieuwsberichten, opinies en artikelen in uw mailbox.

    Bent u NBA-lid? Dan kunt u zich ook aanmelden via uw ledenprofiel op MijnNBA.nl.