AFM wil regels voor inzet AI-tools op kapitaalmarkten
Er moeten duidelijke regels over verantwoordelijkheden komen, voordat AI-hulpmiddelen op grotere schaal worden ingezet bij de handel op kapitaalmarkten. Dat zegt de Autoriteit Financiële Markten (AFM) na onderzoek naar AI op de kapitaalmarkten.
In het rapport AI in Capital Markets: Balancing Innovation and Integrity schetst de AFM een toekomst waarin AI-modellen inmiddels zo snel en autonoom kunnen opereren, dat zij marktgedrag beïnvloeden op manieren die beleggers niet altijd doorhebben.
AI-agents worden met de opmars van AI steeds vaker gebruikt door handelaren. Maar het gebruik van kunstmatige intelligentie op de kapitaalmarkten kan risico's met zich meebrengen, waarschuwt de toezichthouder.
Door zelflerende handelssystemen kunnen patronen ontstaan die lijken op gecoördineerd gedrag, zonder dat partijen overleg hebben gehad of dat beogen. Als er geen menselijk toezicht is, zou AI met mogelijk gemanipuleerde informatie het handelsverloop kunnen beïnvloeden.
Menselijke monitoring nodig
Wanneer de systemen autonomer worden, vergroot dat volgens de AFM het risico dat AI-agenten met elkaar gaan handelen zonder tussenkomst van mensen. "Voortdurende menselijke monitoring blijft essentieel om te waarborgen dat handelsmodellen zich gedragen zoals bedoeld, ze ethisch zijn ontworpen en niet worden misleid door onvolledige of gemanipuleerde data", vindt de AFM.
De toezichthouder benadrukt dat mensen die AI-hulpmiddelen gebruiken hier zelf verantwoordelijk voor moeten blijven, "hoe complex of ondoorzichtig een model ook wordt". AI-handelsmodellen moeten volgens de AFM beheersbaar blijven. Er moeten garanties komen om te voorkomen dat modellen mazen in de regelgeving benutten, problematisch gedrag verhullen of illegale handelingen uitvoeren.
Verantwoordelijk
"We willen dat ook met deze nieuwe technologie de verantwoordelijkheden en wie we kunnen aanspreken heel helder is. En dat je niet kan zeggen: sorry ik weet ook niet precies wat er gebeurd is", licht AFM-bestuurslid Hanzo van Beusekom toe. "Het narratief vanuit AFM is: wie is verantwoordelijk?"
De technologie "dondert voort", stelt de bestuurder, maar bij sommige instellingen is nog niet alles goed geregeld. "Je ziet iedereen nog een beetje zoeken. Prima als je dit wilt gaan inzetten, maar dan moet je ook de risico's onder controle houden."
Op de vraag of de verantwoordelijkheid volgens de toezichthouder ook bij de ontwikkelaars van AI-tools moet liggen, antwoordt Van Beusekom dat de AFM zich niet op dat soort bedrijven richt. "De verantwoordelijkheid om ervoor te zorgen dat ze goede technieken inkopen, ligt echt bij de instellingen zelf."
Bron: ANP/AFM/Accountant
Gerelateerd
Voorspellingen, ach die voorspellingen
Wim Bartels staat stil bij alweer een rapport over de toenemende invloed van AI op het accountantsberoep. Worden accountants steeds meer adviseurs, of juist heel...
Net als advocaten vrezen ook accountants voor hogere kosten bij inzet AI
De snelle opmars van AI in de advocatuur brengt voor advocatenkantoren flink oplopende kosten met zich mee. Waar veel kantoren tot nu toe een vast bedrag per gebruiker...
Chief Information Security Officer wordt steeds belangrijker binnen bestuur
Door de groeiende impact van AI en de bijbehorende risico's op het gebied van cyberveiligheid, is het belang van de Chief Information Security Officer (CISO) binnen...
Waarom Human Intelligence de échte revolutie in de accountancy wordt
Het accountantsberoep verandert dankzij technologie, maar de grootste waarde zit in de wijze waarop accountants die weten toe te passen, meent Pieter de Kok. Dat...
Banken schetsen gevolgen van AI voor accountants en advocaten
De zakelijke dienstverlening is in de ban van AI en vergrijzing. De snelle opkomst van kunstmatige intelligentie raakt aan het verdienmodel van accountants en advocaten,...