Europese verboden op ongewenste AI-toepassingen ingegaan
Vanaf 2 februari jl. gelden in de gehele Europese Unie diverse verboden op ongewenste toepassingen van kunstmatige intelligentie (AI). Daarbij gaat het bijvoorbeeld om AI-systemen die mensen indelen op basis van gedrag of persoonlijke kenmerken en zo tot nadelige behandeling kunnen leiden.
De Europese AI-verordening (AI Act), die sinds vorig jaar zomer gefaseerd inging, is gericht op het benutten van economische kansen van AI, maar ook op een veilige en betrouwbare werking van de technologie.
De AI-verordening biedt kansen voor zowel ontwikkelaars als ondernemers en tegelijk waarborgen voor Europese consumenten. Het gaat daarbij onder andere om basisafspraken over de werking van AI in producten en diensten, eisen aan (mogelijk) risicovolle toepassingen en de ondersteuning van ontwikkelaars zoals mkb'ers.
"We streven naar AI-modellen die werken volgens Europese normen en waarden", stelde minister Dirk Beljaarts (Economische Zaken) bij het ingaan van de maatregel op 2 februari. "Strenge regels waar nodig, maar géén onnodige regels voor bedrijven die laag-risico AI-systemen ontwikkelen en toepassen."
Belangrijkste verboden
Naast een verbod op rangschikking op basis van sociaal gedrag of persoonlijke kenmerken (social scoring) via de technologie, zijn ook AI-systemen die emotieherkenning in het werk en onderwijs toepassen niet meer toegestaan. Dat geldt ook voor AI-systemen die manipulatieve of misleidende technieken gebruiken, om in negatieve zin gedrag te veranderen.
Hetzelfde geldt voor realtime biometrische identificatie op afstand in de openbare ruimte voor rechtshandhaving, met beperkte uitzonderingen. Ook het inzetten van AI voor risicobeoordelingen voor het plegen van strafbare feiten, uitsluitend op basis van profilering, wordt niet meer gedoogd in de EU.
Stapsgewijze invoering
De AI-verordening is op 1 augustus 2024 in werking getreden, maar de verschillende onderdelen zijn gefaseerd van toepassing. Dat geeft ontwikkelaars en aanbieders van hoog-risico AI gelegenheid om hun toepassingen te laten voldoen aan de nieuwe eisen.
Nationale toezichthouders moeten erop toezien dat de verboden voor bepaalde AI-systemen en de eisen voor hoog-risico AI en transparantie worden nageleefd. De Europese Commissie gaat toezicht houden op grote AI-modellen, die voor veel verschillende doelen gebruikt kunnen worden.
Bron: Rijksoverheid
Gerelateerd
Bedrijven gebruiken AI vooral voor marketing, verkoop en administratie
Eén op de zes bedrijven gebruikt inmiddels AI, een verdubbeling ten opzichte van twee jaar eerder. In de specialistische zakelijke dienstverlening, zoals de accountancy,...
AFM is blij met gebruik van geavanceerde audittools door kantoren
Door gebruik van geavanceerde audittools kunnen accountantsorganisaties efficiënter werken en hogere kwaliteit bieden. Ook maakt het ze aantrekkelijker als werkgever....
AI maakt werk van beginnende professionals sneller, maar kost ervaren mensen juist productiviteit
AI-tools kunnen het werk van beginnende professionals versnellen, maar het waarborgen van de kwaliteit is slechter voor de productiviteit van ervaren professionals....
AI-agents: small blijkt beautiful
AI-agents waren in 2025 nogal 'en vogue' in de media. Een groeiende groep startups beloofde een toekomst waarin deze agents grote delen van menselijk werk overnamen....
Topbestuurders zien AI als oplossing voor klimaatambities, niet als bedreiging
Topbestuurders zien kunstmatige intelligentie (AI) als belangrijk hulpmiddel voor het behalen van klimaatdoelen. Dit ondanks het snel stijgende energiegebruik door...