Snelle opkomst AI vraagt om waakzaamheid
Kunstmatige intelligentie (AI) maakt een stormachtige ontwikkeling door, maar staat als technologie deels nog in de kinderschoenen. De beheersing van de risico’s van AI-systemen gaat niet in hetzelfde tempo. Zorgvuldige inzet moet voorop staan en we moeten ons voorbereiden op meer incidenten met AI. Waakzaamheid is geboden.
Dat schrijft de Autoriteit Persoonsgegevens (AP) in de jongste Rapportage AI- & Algoritmerisico's Nederland (RAN). Als coördinator van het toezicht op algoritmes en AI analyseert de AP elk halfjaar de risico's rond AI-systemen en adviseert de samenleving, bedrijven, overheid en politiek over te nemen stappen.
Laag vertrouwen
In Nederland is het vertrouwen in AI lager dan in andere landen. Mensen zullen de risico's van AI-systemen steeds vaker gaan tegenkomen in hun dagelijks leven. Van misbruik van generatieve AI voor cyberaanvallen en deepfakes, tot nieuwe vormen van privacyschendingen en de kans op discriminatie en willekeur.
AP-voorzitter Aleid Wolfsen gaat uit van "stormachtige tijden" rondom de opkomst van dergelijke nieuwe systeemtechnologie die tegelijk veel kansen biedt, zoals bij medische behandelingen en inclusieve dienstverlening. "Maar ook de risico's zijn bekend", stelt hij. "De waarschuwing die we afgeven is dat zolang organisaties nog twijfelen over de mate waarin ze de risico's van AI kennen, zij terughoudend moeten zijn met de inzet van AI."
Informatievoorziening onder druk
De AP analyseerde voor deze editie van de rapportage onder meer de risico's van AI voor online informatievoorziening, zoals nieuws. Generatieve AI brengt een groot risico op misinformatie en desinformatie met zich mee. Door AI-toepassingen die levensechte tekst, plaatjes, video en audio genereren, kunnen mensen er niet meer op vertrouwen dat wat ze zien of horen ook echt klopt.
Daarom is het belangrijk dat mensen begrijpen hoe aanbevelingssystemen werken en dat zij de kans krijgen het systeem uit te zetten of aan te passen. Ook moeten mensen de juistheid van informatie kunnen controleren.
Uit een enquête van de AP onder gemeentelijke organisaties blijkt dat die nog maar beperkt overzicht hebben over hun AI-systemen, dat raadsleden twijfelen of zij voldoende kennis hebben van AI en dat slechts enkele lokale rekenkamers sporadisch onderzoek doen naar AI-systemen.
Het is noodzakelijk om gemeenteraadsleden en andere volksvertegenwoordigers te versterken, om de democratische controle op de inzet van AI te waarborgen, benadrukt de autoriteit.
Nationale AI-strategie
Tot slot roept de AP het kabinet op om onverminderd prioriteit te blijven geven aan algoritmeregistratie door overheidsorganisaties en te overwegen om ook semi-publieke organisaties hun algoritmes te laten registreren. Juist in bijvoorbeeld het onderwijs, de gezondheidszorg, de sociale huursector en het openbaar vervoer wordt AI ingezet in situaties waarin mensen kwetsbaar zijn.
Het is belangrijk om te voorkomen dat kaders te vrijblijvend zijn of (onbewust) ruimte geven aan onvoldoende precieze of meetbare standaarden, die soms achterlopen op of strijdig zijn met wetenschappelijke inzichten.
De AP ziet het aantreden van een nieuw kabinet als hét moment om de nationale AI-strategie tegen het licht te houden.
Bron: Autoriteit Persoonsgegevens
Gerelateerd
ABN Amro: AI biedt kansen voor groei, maar voordeel niet vanzelfsprekend
De groeiverschillen tussen Nederlandse sectoren lopen in 2027 verder uiteen. AI kan vooral in sectoren met hoge loonkosten en veel digitaal werk de productiviteit...
88 procent van Nederlandse bedrijven gebruikt inmiddels AI
Van de Nederlandse bedrijven en organisaties gebruikt inmiddels 88 procent kunstmatige intelligentie (AI) in de bedrijfsprocessen, dat is meer dan in andere landen....
Mollie ontwikkelt eigen AI-platform voor internal audit
Fintechbedrijf Mollie heeft een eigen AI-platform ontwikkeld, om werkzaamheden binnen de internal audit te automatiseren. Het gaat daarbij onder meer om het analyseren...
AI stelde bij pilot-audit van KPMG 'betere vragen' dan accountants
KPMG heeft in het Verenigd Koninkrijk voor het eerst een volledige accountantscontrole bij een beursgenoteerd bedrijf parallel laten uitvoeren door AI-agents. Die...
Advocaten mogen met AI bespaarde uren niet declareren
Advocaten die dankzij de inzet van AI sneller werken, mogen de bespaarde tijd niet bij hun cliënten declareren. Dat stelt de Nederlandse Orde van Advocaten (NOvA)...
