Ronald Bruins

Dagvoorzitter Rens de Jong opende de deelsessie over Bouwen aan vertrouwen in AI tijdens de Accountantsdag 2025 met twee vragen: "Kunnen we AI vertrouwen? En kunnen we onszelf vertrouwen als we AI gebruiken?" Uit een snelle peiling bleek hoe verdeeld de zaal was. Sommigen zien AI als een handige assistent, anderen houden liever zelf de controle.

Joris Krijger, techniekfilosoof en AI-ethicus bij ASN Bank, schetste het speelveld. "AI is geen nieuwe gadget, maar een technologie die onze manier van werken fundamenteel verandert." Hij legde uit hoe systemen leren van data en voorspellingen doen, in plaats van vaste regels via een algoritme te volgen. "Dat maakt ze krachtig, maar ook onvoorspelbaar. AI kan hallucineren: overtuigende antwoorden geven die feitelijk onjuist zijn. En vaak is het een black box: we weten niet precies hoe een model tot een uitkomst komt.'

Ongewenste patronen

Krijger waarschuwde voor ongewenste patronen, die ontstaan wanneer AI leert van historische data. "Bias is een reëel risico. Als historische data vooroordelen bevatten, neemt AI die over en vergroot deze zelfs. Het systeem had dat zelf niet als regel, maar het leerde het uit data." Hij gaf een voorbeeld uit de praktijk: een sollicitatiesysteem dat vrouwen uitsloot voor technische functies. Niet omdat iemand dat expliciet had geprogrammeerd, maar omdat AI patronen herkende in eerdere beslissingen. "Dat is het gevaar van lerende systemen: ze reproduceren niet alleen bestaande patronen, ze versterken ze."

'Als historische data vooroordelen bevatten, neemt AI die over en vergroot deze zelfs.'

Volgens Krijger is dat geen theoretisch probleem, maar een structurele uitdaging. "We zien dat bias vaak onzichtbaar is. Het zit in de data, niet in de code. Daardoor is het moeilijk te corrigeren, tenzij je actief maatregelen neemt." Hij benadrukte dat organisaties moeten nadenken over ethische kaders en transparantie over AI. "Je kunt niet zeggen: het systeem is neutraal. Het is nooit neutraal. Het leert van ons verleden en dat verleden is niet perfect." 

De menselijke maat

Esther Kox, expert in human machine teaming, benadrukte tijdens de aansluitende paneldiscussie dat technologie niet losstaat van menselijk gedrag. "Als we taken delegeren aan AI, neemt onze betrokkenheid af. Dat maakt het moeilijker om in te grijpen als het misgaat." Ze wees op cognitieve valkuilen: onderbelasting van mensen door automatisering, maar ook 'antropomorfisme': het toeschrijven van menselijke eigenschappen aan technologie. "Een vriendelijke stem of een humanoïde vorm maakt dat we AI sneller vertrouwen, terwijl AI van een computer komt en dus in feite niets begrijpt." Haar advies: "Human in the loop is geen slogan, maar moet een ontwerpprincipe van AI zijn. De mens moet verantwoordelijkheid kunnen nemen. Niet achteraf, maar tijdens het proces.'

Kunnen uitleggen hoe het werkt

Arnold Pureveen, hoofd afdeling Kwaliteit Accountantscontrole en Verslaggeving bij de AFM, schetste de blik van de toezichthouder. "AI biedt enorme kansen voor efficiëntie en kwaliteit voor accountants, maar alleen als het gebruik ervan veilig en beheerst gebeurt."

'Als je AI inzet, moet je kunnen uitleggen hoe het werkt, welke data zijn gebruikt en of de uitkomst reproduceerbaar is.'

Hij benadrukte dat accountants drie kernwaarden moeten bewaken: onafhankelijkheid, objectiviteit en deskundigheid. "Als je AI inzet, moet je kunnen uitleggen hoe het werkt, welke data zijn gebruikt en of de uitkomst reproduceerbaar is. Anders kun je je hand niet in het vuur steken voor de betrouwbaarheid.'

Pureveen waarschuwde voor praktische risico's. "Accountantskantoren werken met vertrouwelijke klantinformatie. Als die via een generatief AI-platform op straat belandt, is de schade niet te overzien." Zijn oproep: begin met de solide basis van informatiebeveiliging, datakwaliteit en riskmanagement, voordat je AI-tools inzet.

Normen alleen niet genoeg 

De paneldiscussie maakte duidelijk dat vertrouwen niet vanzelf ontstaat. Het vraagt om governance: richtlijnen, toetsing en transparantie. Krijger verwees naar de Europese AI Act als kader, maar benadrukte dat normen alleen niet genoeg zijn. "Je kunt geen perfect eerlijk systeem maken. Er blijven trade-offs tussen privacy, voorspellende kracht en ethiek." Kox: "Als AI alles overneemt, worden mensen lui. Ontwerp systemen die uitnodigen tot kritisch denken."

AI kan veel, maar dus niet alles. Het kan notulen en samenvattingen maken, patronen herkennen, fraude-indicatoren signaleren en controles ondersteunen. Maar het blijft een assistent, geen autoriteit. "AI kan een jaarrekening samenvatten in seconden", zei Kox. "Maar het kan niet beoordelen of die klopt. Dat blijft mensenwerk." Krijger: "We moeten niet alleen de cijfers controleren, maar ook de algoritmes." Pureveen: "Vertrouwen is het merk van accountants. Als wij laten zien dat we AI verantwoord kunnen inzetten, versterken we dat merk." Krijger tot slot: "AI kan ons vertellen hoe de wereld was, misschien hoe die is, maar nooit hoe die zou moeten zijn. Dat blijft mensenwerk."

Lees ook het verslag van het plenaire ochtendprogramma van de Accountantsdag 2025 en van de plenaire slotsessie van de dag. Terugkijken van de livestream van de Accountantsdag 2025 kan via het YouTube-kanaal van de NBA.