Consumentenbond: bescherm rechten consumenten bij gebruik AI
De Consumentenbond vraagt toezichthouders en de politiek om de rechten van consumenten centraal te stellen bij de ontwikkeling en toepassing van kunstmatige intelligentie (AI) en met name generatieve AI.
Die laatste categorie omvat bekende systemen als ChatGPT. Bij de inzet van AI-systemen moeten consumenten erop kunnen vertrouwen dat er geen sprake is van praktijken als misleiding en manipulatie, discriminatie, fraude en misbruik van persoonlijke informatie.
Aanleiding voor de oproep is een onderzoek van de Noorse zusterorganisatie van de Consumentenbond Forbrukerrådet dat de belangrijkste risico's van AI op een rij zet. Daarom roepen consumentenorganisaties in Europa en de Verenigde Staten nu op om te zorgen dat AI veilig is. De oproep van de Consumentenbond is gericht aan de Autoriteit Consument & Markt (ACM), de Autoriteit Persoonsgegevens (AP) en staatssecretaris Alexandra van Huffelen van digitalisering.
De Consumentenbond ziet de voordelen van zowel AI als generatieve AI en is daar zeker niet tegen, benadrukt directeur Sandra Molenaar. "Maar transparantie moet de basis zijn. Consumenten moeten weten wanneer ze met AI te maken hebben en waar ze verhaal kunnen halen als ze nadeel ondervinden van AI." Aanleiding voor de oproep is te zorgen dat er duidelijke regels komen voor dergelijke systemen. "Helaas heeft de geschiedenis aangetoond dat we er niet op kunnen vertrouwen dat de grote techbedrijven deze zaken zelf vooropstellen", aldus Molenaar.
Persoonsgegevens
De AP geeft in een reactie aan de zorgen van de Consumentenbond te delen en maakt zich in het bijzonder zorgen om de omgang met persoonsgegevens. De waakhond zegt al verschillende acties te ondernemen. De ACM zegt de huidige regelgeving al te gebruiken om AI-bedrijven aan te pakken. "We vinden het vooral belangrijk dat mensen goed geïnformeerd worden", aldus een woordvoerder. "We zien ook het risico dat deze systemen heel menselijk overkomen en tot misleiding kunnen leiden."
Een woordvoerder van Van Huffelen zegt dat de staatssecretaris al bezig is met het beschermen van consumentenrechten als AI wordt gebruikt. Dat doet ze onder meer door te onderzoeken of deze systemen voldoen aan privacyvoorwaarden en of mensen- en kinderrechten worden nageleefd. "Daarnaast moet het voor mensen altijd duidelijk zijn of ze te maken hebben met een mens of een systeem." De bewindsvrouw verwacht meer te kunnen doen als de Europese wet om AI te reguleren is afgerond.
Bron: ANP
Gerelateerd
Banken schetsen gevolgen van AI voor accountants en advocaten
De zakelijke dienstverlening is in de ban van AI en vergrijzing. De snelle opkomst van kunstmatige intelligentie raakt aan het verdienmodel van accountants en advocaten,...
Het onzichtbare gevaar van 'Shadow AI'
Het zonder toestemming of toezicht gebruik van AI-tools in de accountancy is een risico. Dus reden om hierbij stil te staan, in het licht van het debat over de inzet...
We moeten leren charmante fouten te spotten
Als mensen fouten maken, dan zijn die vaak opzichtig en dus makkelijk te zien. Foute informatie van AI ziet er juist heel overtuigend uit. Haast charmant. Het spotten...
Bijna driekwart van Britse mkb-ondernemers handelen op AI-advies, voordat ze hun accountant raadplegen
Onderzoek onder 500 Britse mkb-ondernemers laat zien dat AI voor alledaagse financiële en fiscale vragen het eerste aanspreekpunt is geworden. Tegelijk heeft de...
Meer dan driekwart van accountantskantoren zet inmiddels AI in
Ruim driekwart van de Nederlandse accountantskantoren maakt inmiddels gebruik van AI-toepassingen. Tegelijk weet bijna de helft niet hoe ze AI het beste kunnen inzetten...