AFM wil regels voor inzet AI-tools op kapitaalmarkten
Er moeten duidelijke regels over verantwoordelijkheden komen, voordat AI-hulpmiddelen op grotere schaal worden ingezet bij de handel op kapitaalmarkten. Dat zegt de Autoriteit Financiële Markten (AFM) na onderzoek naar AI op de kapitaalmarkten.
In het rapport AI in Capital Markets: Balancing Innovation and Integrity schetst de AFM een toekomst waarin AI-modellen inmiddels zo snel en autonoom kunnen opereren, dat zij marktgedrag beïnvloeden op manieren die beleggers niet altijd doorhebben.
AI-agents worden met de opmars van AI steeds vaker gebruikt door handelaren. Maar het gebruik van kunstmatige intelligentie op de kapitaalmarkten kan risico's met zich meebrengen, waarschuwt de toezichthouder.
Door zelflerende handelssystemen kunnen patronen ontstaan die lijken op gecoördineerd gedrag, zonder dat partijen overleg hebben gehad of dat beogen. Als er geen menselijk toezicht is, zou AI met mogelijk gemanipuleerde informatie het handelsverloop kunnen beïnvloeden.
Menselijke monitoring nodig
Wanneer de systemen autonomer worden, vergroot dat volgens de AFM het risico dat AI-agenten met elkaar gaan handelen zonder tussenkomst van mensen. "Voortdurende menselijke monitoring blijft essentieel om te waarborgen dat handelsmodellen zich gedragen zoals bedoeld, ze ethisch zijn ontworpen en niet worden misleid door onvolledige of gemanipuleerde data", vindt de AFM.
De toezichthouder benadrukt dat mensen die AI-hulpmiddelen gebruiken hier zelf verantwoordelijk voor moeten blijven, "hoe complex of ondoorzichtig een model ook wordt". AI-handelsmodellen moeten volgens de AFM beheersbaar blijven. Er moeten garanties komen om te voorkomen dat modellen mazen in de regelgeving benutten, problematisch gedrag verhullen of illegale handelingen uitvoeren.
Verantwoordelijk
"We willen dat ook met deze nieuwe technologie de verantwoordelijkheden en wie we kunnen aanspreken heel helder is. En dat je niet kan zeggen: sorry ik weet ook niet precies wat er gebeurd is", licht AFM-bestuurslid Hanzo van Beusekom toe. "Het narratief vanuit AFM is: wie is verantwoordelijk?"
De technologie "dondert voort", stelt de bestuurder, maar bij sommige instellingen is nog niet alles goed geregeld. "Je ziet iedereen nog een beetje zoeken. Prima als je dit wilt gaan inzetten, maar dan moet je ook de risico's onder controle houden."
Op de vraag of de verantwoordelijkheid volgens de toezichthouder ook bij de ontwikkelaars van AI-tools moet liggen, antwoordt Van Beusekom dat de AFM zich niet op dat soort bedrijven richt. "De verantwoordelijkheid om ervoor te zorgen dat ze goede technieken inkopen, ligt echt bij de instellingen zelf."
Bron: ANP/AFM/Accountant
Gerelateerd
ABN Amro: AI biedt kansen voor groei, maar voordeel niet vanzelfsprekend
De groeiverschillen tussen Nederlandse sectoren lopen in 2027 verder uiteen. AI kan vooral in sectoren met hoge loonkosten en veel digitaal werk de productiviteit...
88 procent van Nederlandse bedrijven gebruikt inmiddels AI
Van de Nederlandse bedrijven en organisaties gebruikt inmiddels 88 procent kunstmatige intelligentie (AI) in de bedrijfsprocessen, dat is meer dan in andere landen....
Mollie ontwikkelt eigen AI-platform voor internal audit
Fintechbedrijf Mollie heeft een eigen AI-platform ontwikkeld, om werkzaamheden binnen de internal audit te automatiseren. Het gaat daarbij onder meer om het analyseren...
AI stelde bij pilot-audit van KPMG 'betere vragen' dan accountants
KPMG heeft in het Verenigd Koninkrijk voor het eerst een volledige accountantscontrole bij een beursgenoteerd bedrijf parallel laten uitvoeren door AI-agents. Die...
Advocaten mogen met AI bespaarde uren niet declareren
Advocaten die dankzij de inzet van AI sneller werken, mogen de bespaarde tijd niet bij hun cliënten declareren. Dat stelt de Nederlandse Orde van Advocaten (NOvA)...
