Nieuws 25 juli 2024

Snelle opkomst AI vraagt om waakzaamheid

Kunstmatige intelligentie (AI) maakt een stormachtige ontwikkeling door, maar staat als technologie deels nog in de kinderschoenen. De beheersing van de risico’s van AI-systemen gaat niet in hetzelfde tempo. Zorgvuldige inzet moet voorop staan en we moeten ons voorbereiden op meer incidenten met AI. Waakzaamheid is geboden.

Dat schrijft de Autoriteit Persoonsgegevens (AP) in de jongste Rapportage AI- & Algoritmerisico's Nederland (RAN). Als coördinator van het toezicht op algoritmes en AI analyseert de AP elk halfjaar de risico's rond AI-systemen en adviseert de samenleving, bedrijven, overheid en politiek over te nemen stappen.

Laag vertrouwen

In Nederland is het vertrouwen in AI lager dan in andere landen. Mensen zullen de risico's van AI-systemen steeds vaker gaan tegenkomen in hun dagelijks leven. Van misbruik van generatieve AI voor cyberaanvallen en deepfakes, tot nieuwe vormen van privacyschendingen en de kans op discriminatie en willekeur.

AP-voorzitter Aleid Wolfsen gaat uit van "stormachtige tijden" rondom de opkomst van dergelijke nieuwe systeemtechnologie die tegelijk veel kansen biedt, zoals bij medische behandelingen en inclusieve dienstverlening. "Maar ook de risico's zijn bekend", stelt hij. "De waarschuwing die we afgeven is dat zolang organisaties nog twijfelen over de mate waarin ze de risico's van AI kennen, zij terughoudend moeten zijn met de inzet van AI."

Informatievoorziening onder druk 

De AP analyseerde voor deze editie van de rapportage onder meer de risico's van AI voor online informatievoorziening, zoals nieuws. Generatieve AI brengt een groot risico op misinformatie en desinformatie met zich mee. Door AI-toepassingen die levensechte tekst, plaatjes, video en audio genereren, kunnen mensen er niet meer op vertrouwen dat wat ze zien of horen ook echt klopt. 

Daarom is het belangrijk dat mensen begrijpen hoe aanbevelingssystemen werken en dat zij de kans krijgen het systeem uit te zetten of aan te passen. Ook moeten mensen de juistheid van informatie kunnen controleren.

Uit een enquête van de AP onder gemeentelijke organisaties blijkt dat die nog maar beperkt overzicht hebben over hun AI-systemen, dat raadsleden twijfelen of zij voldoende kennis hebben van AI en dat slechts enkele lokale rekenkamers sporadisch onderzoek doen naar AI-systemen.

Het is noodzakelijk om gemeenteraadsleden en andere volksvertegenwoordigers te versterken, om de democratische controle op de inzet van AI te waarborgen, benadrukt de autoriteit.

Nationale AI-strategie

Tot slot roept de AP het kabinet op om onverminderd prioriteit te blijven geven aan algoritmeregistratie door overheidsorganisaties en te overwegen om ook semi-publieke organisaties hun algoritmes te laten registreren. Juist in bijvoorbeeld het onderwijs, de gezondheidszorg, de sociale huursector en het openbaar vervoer wordt AI ingezet in situaties waarin mensen kwetsbaar zijn.

Het is belangrijk om te voorkomen dat kaders te vrijblijvend zijn of (onbewust) ruimte geven aan onvoldoende precieze of meetbare standaarden, die soms achterlopen op of strijdig zijn met wetenschappelijke inzichten.

De AP ziet het aantreden van een nieuw kabinet als hét moment om de nationale AI-strategie tegen het licht te houden.

Bron: Autoriteit Persoonsgegevens