Europese verboden op ongewenste AI-toepassingen ingegaan
Vanaf 2 februari jl. gelden in de gehele Europese Unie diverse verboden op ongewenste toepassingen van kunstmatige intelligentie (AI). Daarbij gaat het bijvoorbeeld om AI-systemen die mensen indelen op basis van gedrag of persoonlijke kenmerken en zo tot nadelige behandeling kunnen leiden.
De Europese AI-verordening (AI Act), die sinds vorig jaar zomer gefaseerd inging, is gericht op het benutten van economische kansen van AI, maar ook op een veilige en betrouwbare werking van de technologie.
De AI-verordening biedt kansen voor zowel ontwikkelaars als ondernemers en tegelijk waarborgen voor Europese consumenten. Het gaat daarbij onder andere om basisafspraken over de werking van AI in producten en diensten, eisen aan (mogelijk) risicovolle toepassingen en de ondersteuning van ontwikkelaars zoals mkb'ers.
"We streven naar AI-modellen die werken volgens Europese normen en waarden", stelde minister Dirk Beljaarts (Economische Zaken) bij het ingaan van de maatregel op 2 februari. "Strenge regels waar nodig, maar géén onnodige regels voor bedrijven die laag-risico AI-systemen ontwikkelen en toepassen."
Belangrijkste verboden
Naast een verbod op rangschikking op basis van sociaal gedrag of persoonlijke kenmerken (social scoring) via de technologie, zijn ook AI-systemen die emotieherkenning in het werk en onderwijs toepassen niet meer toegestaan. Dat geldt ook voor AI-systemen die manipulatieve of misleidende technieken gebruiken, om in negatieve zin gedrag te veranderen.
Hetzelfde geldt voor realtime biometrische identificatie op afstand in de openbare ruimte voor rechtshandhaving, met beperkte uitzonderingen. Ook het inzetten van AI voor risicobeoordelingen voor het plegen van strafbare feiten, uitsluitend op basis van profilering, wordt niet meer gedoogd in de EU.
Stapsgewijze invoering
De AI-verordening is op 1 augustus 2024 in werking getreden, maar de verschillende onderdelen zijn gefaseerd van toepassing. Dat geeft ontwikkelaars en aanbieders van hoog-risico AI gelegenheid om hun toepassingen te laten voldoen aan de nieuwe eisen.
Nationale toezichthouders moeten erop toezien dat de verboden voor bepaalde AI-systemen en de eisen voor hoog-risico AI en transparantie worden nageleefd. De Europese Commissie gaat toezicht houden op grote AI-modellen, die voor veel verschillende doelen gebruikt kunnen worden.
Bron: Rijksoverheid
Gerelateerd
Strategie bedrijven rondom digitalisering en AI nog vaak onduidelijk
Hoewel veel organisaties inmiddels een strategie hebben ten aanzien van digitalisering, robotisering en AI, is de duidelijkheid daarvan vaak een punt van discussie....
Accountancy moet AI snel omarmen om personeelstekort en regeldruk op te vangen
Bijna twee derde van de accountantskantoren kampt met personeelstekorten. Tegelijkertijd stijgen de loonkosten en neemt de regeldruk toe. AI kan de sector helpen...
Meeste organisaties zijn niet voorbereid op door AI versterkte cyberdreigingen
De snelle opmars van AI zorgt voor meer geavanceerde cyberdreigingen, die sneller groeien dan de verdediging van bedrijven. Slechts tien procent van de ondernemingen...
EY: Europese bedrijven maken meer winst en verlagen kosten dankzij AI
De inzet van technologie zoals kunstmatige intelligentie (AI) heeft meetbare effecten op de financiële prestaties van Europese bedrijven en organisaties. Vier op...
Europese bedrijven moeten inzet van AI versnellen om productie te verhogen
Europese bedrijven benutten de mogelijkheden van AI nog niet ten volle. Accenture roept daarom op tot een robuust en concurrerend AI-ecosysteem voor Europa.