Snelle opkomst AI vraagt om waakzaamheid
Kunstmatige intelligentie (AI) maakt een stormachtige ontwikkeling door, maar staat als technologie deels nog in de kinderschoenen. De beheersing van de risico’s van AI-systemen gaat niet in hetzelfde tempo. Zorgvuldige inzet moet voorop staan en we moeten ons voorbereiden op meer incidenten met AI. Waakzaamheid is geboden.
Dat schrijft de Autoriteit Persoonsgegevens (AP) in de jongste Rapportage AI- & Algoritmerisico's Nederland (RAN). Als coördinator van het toezicht op algoritmes en AI analyseert de AP elk halfjaar de risico's rond AI-systemen en adviseert de samenleving, bedrijven, overheid en politiek over te nemen stappen.
Laag vertrouwen
In Nederland is het vertrouwen in AI lager dan in andere landen. Mensen zullen de risico's van AI-systemen steeds vaker gaan tegenkomen in hun dagelijks leven. Van misbruik van generatieve AI voor cyberaanvallen en deepfakes, tot nieuwe vormen van privacyschendingen en de kans op discriminatie en willekeur.
AP-voorzitter Aleid Wolfsen gaat uit van "stormachtige tijden" rondom de opkomst van dergelijke nieuwe systeemtechnologie die tegelijk veel kansen biedt, zoals bij medische behandelingen en inclusieve dienstverlening. "Maar ook de risico's zijn bekend", stelt hij. "De waarschuwing die we afgeven is dat zolang organisaties nog twijfelen over de mate waarin ze de risico's van AI kennen, zij terughoudend moeten zijn met de inzet van AI."
Informatievoorziening onder druk
De AP analyseerde voor deze editie van de rapportage onder meer de risico's van AI voor online informatievoorziening, zoals nieuws. Generatieve AI brengt een groot risico op misinformatie en desinformatie met zich mee. Door AI-toepassingen die levensechte tekst, plaatjes, video en audio genereren, kunnen mensen er niet meer op vertrouwen dat wat ze zien of horen ook echt klopt.
Daarom is het belangrijk dat mensen begrijpen hoe aanbevelingssystemen werken en dat zij de kans krijgen het systeem uit te zetten of aan te passen. Ook moeten mensen de juistheid van informatie kunnen controleren.
Uit een enquête van de AP onder gemeentelijke organisaties blijkt dat die nog maar beperkt overzicht hebben over hun AI-systemen, dat raadsleden twijfelen of zij voldoende kennis hebben van AI en dat slechts enkele lokale rekenkamers sporadisch onderzoek doen naar AI-systemen.
Het is noodzakelijk om gemeenteraadsleden en andere volksvertegenwoordigers te versterken, om de democratische controle op de inzet van AI te waarborgen, benadrukt de autoriteit.
Nationale AI-strategie
Tot slot roept de AP het kabinet op om onverminderd prioriteit te blijven geven aan algoritmeregistratie door overheidsorganisaties en te overwegen om ook semi-publieke organisaties hun algoritmes te laten registreren. Juist in bijvoorbeeld het onderwijs, de gezondheidszorg, de sociale huursector en het openbaar vervoer wordt AI ingezet in situaties waarin mensen kwetsbaar zijn.
Het is belangrijk om te voorkomen dat kaders te vrijblijvend zijn of (onbewust) ruimte geven aan onvoldoende precieze of meetbare standaarden, die soms achterlopen op of strijdig zijn met wetenschappelijke inzichten.
De AP ziet het aantreden van een nieuw kabinet als hét moment om de nationale AI-strategie tegen het licht te houden.
Bron: Autoriteit Persoonsgegevens
Gerelateerd
Juridische sector investeert in AI maar moet vaker terug naar kantoor
Advocatenkantoren en juridische afdelingen verhogen hun investeringen in technologie zoals AI en ESG-kennis, om te voldoen aan veranderende vraag in de markt. Steeds...
Rekenkamer: Rijksoverheid schat risico's AI vaak laag in
De Rijksoverheid weet van veel kunstmatige intelligentie (AI) niet of die naar behoren werkt. Voor meer dan de helft van de AI-systemen die het Rijk gebruikt, zeggen...
Onderzoek: meerderheid Nederlandse bedrijven gebruikt geen AI
De meerderheid van de bedrijven in Nederland (57 procent) gebruikt nog geen kunstmatige intelligentie (AI) in hun bedrijfsvoering. Volgens marktonderzoeker Telecompaper...
AI speelt steeds grotere rol bij fraude
Cybercriminelen zetten steeds vaker kunstmatige intelligentie in om complexe fraudepogingen uit te voeren. AI-gedreven fraude is inmiddels goed voor ruim veertig...
Ruim honderd bedrijven ondertekenen AI-pact van EU
Ruim honderd bedrijven hebben zich aangesloten bij een ‘pact’ met de Europese Commissie voor verantwoorde ontwikkeling van kunstmatige intelligentie. Onder andere...