Consumentenbond: bescherm rechten consumenten bij gebruik AI
De Consumentenbond vraagt toezichthouders en de politiek om de rechten van consumenten centraal te stellen bij de ontwikkeling en toepassing van kunstmatige intelligentie (AI) en met name generatieve AI.
Die laatste categorie omvat bekende systemen als ChatGPT. Bij de inzet van AI-systemen moeten consumenten erop kunnen vertrouwen dat er geen sprake is van praktijken als misleiding en manipulatie, discriminatie, fraude en misbruik van persoonlijke informatie.
Aanleiding voor de oproep is een onderzoek van de Noorse zusterorganisatie van de Consumentenbond Forbrukerrådet dat de belangrijkste risico's van AI op een rij zet. Daarom roepen consumentenorganisaties in Europa en de Verenigde Staten nu op om te zorgen dat AI veilig is. De oproep van de Consumentenbond is gericht aan de Autoriteit Consument & Markt (ACM), de Autoriteit Persoonsgegevens (AP) en staatssecretaris Alexandra van Huffelen van digitalisering.
De Consumentenbond ziet de voordelen van zowel AI als generatieve AI en is daar zeker niet tegen, benadrukt directeur Sandra Molenaar. "Maar transparantie moet de basis zijn. Consumenten moeten weten wanneer ze met AI te maken hebben en waar ze verhaal kunnen halen als ze nadeel ondervinden van AI." Aanleiding voor de oproep is te zorgen dat er duidelijke regels komen voor dergelijke systemen. "Helaas heeft de geschiedenis aangetoond dat we er niet op kunnen vertrouwen dat de grote techbedrijven deze zaken zelf vooropstellen", aldus Molenaar.
Persoonsgegevens
De AP geeft in een reactie aan de zorgen van de Consumentenbond te delen en maakt zich in het bijzonder zorgen om de omgang met persoonsgegevens. De waakhond zegt al verschillende acties te ondernemen. De ACM zegt de huidige regelgeving al te gebruiken om AI-bedrijven aan te pakken. "We vinden het vooral belangrijk dat mensen goed geïnformeerd worden", aldus een woordvoerder. "We zien ook het risico dat deze systemen heel menselijk overkomen en tot misleiding kunnen leiden."
Een woordvoerder van Van Huffelen zegt dat de staatssecretaris al bezig is met het beschermen van consumentenrechten als AI wordt gebruikt. Dat doet ze onder meer door te onderzoeken of deze systemen voldoen aan privacyvoorwaarden en of mensen- en kinderrechten worden nageleefd. "Daarnaast moet het voor mensen altijd duidelijk zijn of ze te maken hebben met een mens of een systeem." De bewindsvrouw verwacht meer te kunnen doen als de Europese wet om AI te reguleren is afgerond.
Bron: ANP
Gerelateerd
Masterclass docenten accountancy over 'Vertrouwen in de toekomst'
De NBA organiseerde ook dit jaar een masterclass voor docenten accountancy. Tijdens de bijeenkomst aan de Hogeschool van Amsterdam op 16 april werden de docenten...
Meerderheid internationaal handelende bedrijven gebruikt AI
Het merendeel van de Nederlandse ondernemers die internationaal handelen gebruikt kunstmatige intelligentie (AI) in de bedrijfsvoering. Onder ruim duizend bedrijven...
DNB: Nederlanders kritischer over AI bij financiële organisaties
Nederlanders staan kritischer tegenover het gebruik van kunstmatige intelligentie (AI) door financiële instellingen dan tegenover AI in het algemeen. Samen met de...
Vier op de tien mensen denken dat AI banen gaat kosten
Ruim veertig procent van de Nederlanders heeft inmiddels ervaring met het gebruik van generatieve AI. Over de impact op de arbeidsmarkt zijn mensen bezorgd: bijna...
Onderzoek Hyarchis: AI belangrijkste ontwikkeling voor toekomst accountancy
Artificial Intelligence (AI), de aanscherping van wet- en regelgeving en data en digitalisering zijn de belangrijkste trends en innovaties die van invloed zijn op...