Discussie Opinie Vandaag

Vacature: Human in the Loop

In tijden van AI mag de menselijke rol niet worden teruggebracht tot formele exercitie zonder inhoudelijke controles. Ook accountants moeten het belang van de rol van de mens blijven benadrukken.

Giel Dirkx

De internationale media waren de afgelopen periode in rep en roer: een losgeslagen agent van OpenAI had eerder dit jaar een ander bedrijf gehackt. Anthropic kon niet achterblijven en meldde dat ook zij te maken hadden gehad met incidenten. Evan Hubinger, een van hun toonaangevende AI-onderzoekers, verkondigde dat de kans dat AI zou leiden tot het einde van het menselijk bestaan meer dan 10 procent was. In Nederland draaide Alexander Klöpping overuren bij Eva.

De eigen onderzoeken van de big tech-bedrijven zijn te vinden op internet, maar geven niet echt een antwoord op de vraag wat er nu echt is gebeurd. Ze suggereren dat alle mogelijke voorzorgsmaatregelen waren getroffen en dat AI desondanks toch was ontsnapt. Anderen beweren echter dat door menselijk handelen niet alle deuren op slot zaten en AI deze deuren slechts hoefde te openen. Topmannen van Amerikaanse AI-bedrijven pleitten recent voor een vertraging in de ontwikkeling van nieuwe AI-modellen, omdat AI-agents binnen zes tot twaalf maanden het hele internet zouden kunnen overnemen. President Trump wil die ontwikkeling juist versnellen.

Hoe zou dit zich vertalen naar de Europese context? Artikel 14 van de EU-AI-verordening vereist effectief menselijk toezicht op hoogrisico-AI-systemen. Bij de toepassing van AI wordt deze eis vaak vertaald als human-in-the-loop (HITL). Volgens Stanford Human-Centered AI (HAI) verwijst HITL naar AI-systemen waarin menselijke feedback of tussenkomst onderdeel is van de werking van het systeem. Mensen kunnen richting geven, fouten corrigeren of de uiteindelijke beslissing nemen om zo de nauwkeurigheid en betrouwbaarheid van AI te verbeteren. Heel simpel gezegd: je zorgt dat een AI-systeem een HITL heeft. Ik zie de vacatures voor de nieuwe 'loop'baan al voor me: 'Word jij onze nieuwe human in the loop?'

HAI stelt echter dat de term HITL eigenlijk een verkeerde voorstelling van zaken geeft. Mensen zitten niet in the loop, maar hebben de leiding en dragen de verantwoordelijkheid. AI is in the loop (AITL). Er bestaat een gevaar dat rubber stamping wordt genoemd; vrij vertaald: het blind ondertekenen van documenten zonder de inhoud daadwerkelijk te beoordelen. De menselijke rol mag niet worden teruggebracht tot een formele exercitie zonder inhoudelijke controles.

Als accountants hebben wij de maatschappelijke verantwoordelijkheid om het belang van de rol van de mens (human intelligence) te blijven benadrukken. Deze rol mag geen lo(o)pendebandwerk worden.

De leidraad AI in Control (2024) en hoofdstuk 2 van AI Toegepast (2026), die Accounttech namens de NBA heeft gepubliceerd, geven concrete tips en voorbeelden voor een zinvolle invulling van de menselijke rol, zonder daarmee een loopje te nemen.

PS: Bij de totstandkoming van deze column heb ik gebruikgemaakt van AI-in-the-loop.