Europese verboden op ongewenste AI-toepassingen ingegaan
Vanaf 2 februari jl. gelden in de gehele Europese Unie diverse verboden op ongewenste toepassingen van kunstmatige intelligentie (AI). Daarbij gaat het bijvoorbeeld om AI-systemen die mensen indelen op basis van gedrag of persoonlijke kenmerken en zo tot nadelige behandeling kunnen leiden.
De Europese AI-verordening (AI Act), die sinds vorig jaar zomer gefaseerd inging, is gericht op het benutten van economische kansen van AI, maar ook op een veilige en betrouwbare werking van de technologie.
De AI-verordening biedt kansen voor zowel ontwikkelaars als ondernemers en tegelijk waarborgen voor Europese consumenten. Het gaat daarbij onder andere om basisafspraken over de werking van AI in producten en diensten, eisen aan (mogelijk) risicovolle toepassingen en de ondersteuning van ontwikkelaars zoals mkb'ers.
"We streven naar AI-modellen die werken volgens Europese normen en waarden", stelde minister Dirk Beljaarts (Economische Zaken) bij het ingaan van de maatregel op 2 februari. "Strenge regels waar nodig, maar géén onnodige regels voor bedrijven die laag-risico AI-systemen ontwikkelen en toepassen."
Belangrijkste verboden
Naast een verbod op rangschikking op basis van sociaal gedrag of persoonlijke kenmerken (social scoring) via de technologie, zijn ook AI-systemen die emotieherkenning in het werk en onderwijs toepassen niet meer toegestaan. Dat geldt ook voor AI-systemen die manipulatieve of misleidende technieken gebruiken, om in negatieve zin gedrag te veranderen.
Hetzelfde geldt voor realtime biometrische identificatie op afstand in de openbare ruimte voor rechtshandhaving, met beperkte uitzonderingen. Ook het inzetten van AI voor risicobeoordelingen voor het plegen van strafbare feiten, uitsluitend op basis van profilering, wordt niet meer gedoogd in de EU.
Stapsgewijze invoering
De AI-verordening is op 1 augustus 2024 in werking getreden, maar de verschillende onderdelen zijn gefaseerd van toepassing. Dat geeft ontwikkelaars en aanbieders van hoog-risico AI gelegenheid om hun toepassingen te laten voldoen aan de nieuwe eisen.
Nationale toezichthouders moeten erop toezien dat de verboden voor bepaalde AI-systemen en de eisen voor hoog-risico AI en transparantie worden nageleefd. De Europese Commissie gaat toezicht houden op grote AI-modellen, die voor veel verschillende doelen gebruikt kunnen worden.
Bron: Rijksoverheid
Gerelateerd
AI kan accountants helpen bij opstellen PE-portfolio
De NBA laat op een nieuwe informatiepagina zien hoe accountants AI praktisch en verantwoord kunnen inzetten als hulpmiddel bij hun professionele ontwikkeling.
FD: AI maakt bonnetjesfraude moeilijker te ontdekken
Generatieve AI maakt het steeds eenvoudiger om bonnetjes, facturen en andere financiële documenten overtuigend te vervalsen. Tegelijkertijd zijn dergelijke manipulaties...
Anthropic begint eigen Europese AI-consultancypraktijk, met hulp van Britse investeerder
AI-bedrijf Anthropic gaat samen met de Britse investeringsmaatschappij Hg een Europese consultancypraktijk opzetten die ondernemingen helpt bij de toepassing van...
Een accountant tekent niet af wat hij niet kan controleren. Waarom zou hij dat bij AI wel doen?
In juli schreef Accountant.nl dat accountants, net als advocaten, vrezen voor hogere kosten door AI. Die zorg is begrijpelijk. Maar veel belangrijker is of u kunt...
Art of artificial?
Wat betekent het voor een rapporterende onderneming, als jaarverslagen vooral door AI worden gelezen en gebruikt voor het nemen van beslissingen, vraagt Arjan Brouwer...