AFM wil regels voor inzet AI-tools op kapitaalmarkten
Er moeten duidelijke regels over verantwoordelijkheden komen, voordat AI-hulpmiddelen op grotere schaal worden ingezet bij de handel op kapitaalmarkten. Dat zegt de Autoriteit Financiële Markten (AFM) na onderzoek naar AI op de kapitaalmarkten.
In het rapport AI in Capital Markets: Balancing Innovation and Integrity schetst de AFM een toekomst waarin AI-modellen inmiddels zo snel en autonoom kunnen opereren, dat zij marktgedrag beïnvloeden op manieren die beleggers niet altijd doorhebben.
AI-agents worden met de opmars van AI steeds vaker gebruikt door handelaren. Maar het gebruik van kunstmatige intelligentie op de kapitaalmarkten kan risico's met zich meebrengen, waarschuwt de toezichthouder.
Door zelflerende handelssystemen kunnen patronen ontstaan die lijken op gecoördineerd gedrag, zonder dat partijen overleg hebben gehad of dat beogen. Als er geen menselijk toezicht is, zou AI met mogelijk gemanipuleerde informatie het handelsverloop kunnen beïnvloeden.
Menselijke monitoring nodig
Wanneer de systemen autonomer worden, vergroot dat volgens de AFM het risico dat AI-agenten met elkaar gaan handelen zonder tussenkomst van mensen. "Voortdurende menselijke monitoring blijft essentieel om te waarborgen dat handelsmodellen zich gedragen zoals bedoeld, ze ethisch zijn ontworpen en niet worden misleid door onvolledige of gemanipuleerde data", vindt de AFM.
De toezichthouder benadrukt dat mensen die AI-hulpmiddelen gebruiken hier zelf verantwoordelijk voor moeten blijven, "hoe complex of ondoorzichtig een model ook wordt". AI-handelsmodellen moeten volgens de AFM beheersbaar blijven. Er moeten garanties komen om te voorkomen dat modellen mazen in de regelgeving benutten, problematisch gedrag verhullen of illegale handelingen uitvoeren.
Verantwoordelijk
"We willen dat ook met deze nieuwe technologie de verantwoordelijkheden en wie we kunnen aanspreken heel helder is. En dat je niet kan zeggen: sorry ik weet ook niet precies wat er gebeurd is", licht AFM-bestuurslid Hanzo van Beusekom toe. "Het narratief vanuit AFM is: wie is verantwoordelijk?"
De technologie "dondert voort", stelt de bestuurder, maar bij sommige instellingen is nog niet alles goed geregeld. "Je ziet iedereen nog een beetje zoeken. Prima als je dit wilt gaan inzetten, maar dan moet je ook de risico's onder controle houden."
Op de vraag of de verantwoordelijkheid volgens de toezichthouder ook bij de ontwikkelaars van AI-tools moet liggen, antwoordt Van Beusekom dat de AFM zich niet op dat soort bedrijven richt. "De verantwoordelijkheid om ervoor te zorgen dat ze goede technieken inkopen, ligt echt bij de instellingen zelf."
Bron: ANP/AFM/Accountant
Gerelateerd
Oordelen in een tijd van hersenvervangers
Onderzoek onder accountants laat zien dat AI voor accountants het beste werkt als het wordt ingezet als adviseur, niet als hersenvervanger, stelt Jan Bouwens.
Accountants zetten AI vaker in, maar zijn nog terughoudend
Nederlandse accountantskantoren maken in toenemende mate gebruik van AI, vooral ter ondersteuning van data-analyse en controlewerkzaamheden. De adoptie verloopt...
Beter worden in waar we al goed in zijn
Andere beroepen moeten wennen aan verandering in hun werk als gevolg van AI. Maar accountants zijn vertrouwd met het beoordelen van informatie, aldus Hakan Koçak.
AFM stapt naar hoogste bestuursrechter, na vernietiging besluiten in zaak Momentum Capital
De Autoriteit Financiële Markten (AFM) stapt naar het College van Beroep voor het bedrijfsleven (CBb), omdat de rechtbank Rotterdam eerdere besluiten in een rechtszaak...
Kabinet komt met nationaal toezicht op Europese AI-regels
Om AI-technologie veilig en betrouwbaar te gebruiken, werkt het kabinet aan het nationale toezicht op de Europese AI-verordening. Staatssecretaris Aerdts (Digitale...