Het risico op misplaatst vertrouwen in AI is reëel, weet Joris Joppe. Maar het is net zo belangrijk om te kijken naar de organisatie achter de software die wordt gebruikt.

Discussie Column Vandaag

Het onzichtbare AI-risico

Kortgeleden werd op deze site een artikel gepubliceerd over de risico's van AI. Niet over het existentiële risico dat de hele maatschappij as we know it eraan gaat, maar over het aloude risico op hallucinaties. Een oplosbaar probleem, zeker in de context van accountancy; het is tenslotte niet alsof we het bewijs zoeken voor de Stelling van Fermat. Als we het dan toch hebben over de risico's van AI, is er een veel fundamenteler en concreter risico dat we niet uit het oog mogen verliezen. Zeker omdat software, al dan niet met AI, een integraal onderdeel is van de moderne accountantspraktijk.

Het grotere risico: de bouwstenen

Kijk naar wat er de afgelopen weken gebeurde. Als de hacks op nu.nl terechtkomen, dan weet je het wel. Iedereen weet inmiddels wat PHP is. De kwetsbaarheid waarover werd gerapporteerd raakte naar schatting bijna zeventig procent van alle websites. De kwetsbaarheden zijn met behulp van AI gevonden. De patch kwam een paar uur later, maar veel websites gingen op zwart. Op dat moment waren er al sites gehackt. 

Wat je niet op nu.nl las, was dat kort daarna een kwetsbaarheid volgde voor een library waar frameworks zoals Node.js, Python en .NET op leunen. Het security-team van OpenAI vond de kwetsbaarheid, Microsoft kwam op 25 oktober met noodpatches. Niet zo sexy als PHP, maar net zo fundamenteel. De les is dat kwetsbaarheden in software met AI veel makkelijker te vinden zijn. De tijd tussen de ontdekking van de kwetsbaarheden en misbruik is door AI radicaal verkort.

Wat de cijfers zeggen

Voor de software waar ik verantwoordelijk voor ben, zien we meer securityrisico's binnenkomen en moeten we hard werken om ze onder controle te houden. De cijfers bevestigen dat beeld. In 2026 (tot en met oktober) zijn ongeveer 86.000 cve's (common vulnerabilities and exposures) gepubliceerd. Dat is ruim twee keer zoveel als in dezelfde periode van 2025. Het aantal maandelijkse meldingen verdubbelde van circa vijfduizend in januari naar ruim tienduizend in augustus, volgens de Google Threat Intelligence Group.

De tijd tussen openbaarmaking en een werkende exploit is volgens verschillende analyses gekrompen van maanden naar dagen. En AI vindt niet alleen kwetsbaarheden, het bouwt ze ook: analyses wijzen uit dat AI-modellen in slechts 55 procent veilige code opleveren. In de overige 45 procent introduceert het model een bekende kwetsbaarheid.

De kanttekening bij al deze cijfers: het aantal daadwerkelijk misbruikte kwetsbaarheden groeit veel minder hard. De CISA-lijst met actief misbruikte kwetsbaarheden kreeg tot eind oktober 272 toevoegingen, tegen 245 in heel 2025. Dat zou een geruststellende gedachte kunnen zijn. Zo eentje als stellen dat het Y2K-probleem, of zure regen, helemaal geen problemen waren. Het waren wel degelijk serieuze problemen, we hebben ze alleen opgelost. Dat geldt ook voor de huidige boom in security risico’s: het aantal exploits blijft beperkt, omdat securityteams meer dan ooit op high-alert staan om dingen te fixen zodra ze gesignaleerd worden.

Hoog op de agenda

Elk kantoor draait op een keten van boekhoud- en salarispakketten, een portal, samenstelsoftware en een fiscale oplossing. En natuurlijk de koppelingen ertussen. Al die producten rusten op dezelfde bouwstenen als hierboven: PHP, Node, .NET. Zit er een kwetsbaarheid in zo'n component, dan zit die in al die producten en zullen leveranciers adequaat moeten reageren. Dus ja, het risico op misplaatst vertrouwen in AI is reëel, maar als het gaat over risico's lijkt het me minstens zo belangrijk om te kijken naar de organisatie achter de software die wordt gebruikt. Dat geldt voor kantoren zelf, maar uiteraard ook voor de ondernemers waar accountants adviseren of de controle doen.

Het is tegenwoordig populair om te roepen dat iedereen software kan bouwen. Auteur Kurt Vonnegut riep daar in 1990 al iets over: "Another flaw in the human character is that everybody wants to build and nobody wants to do maintenance." Het bouwen van software is inderdaad makkelijker geworden. Het veilig houden van diezelfde software is helaas alleen maar veel moeilijker geworden. Voor een risicomijdende professie als accountants is dat superrelevant.

Mijn advies is om security hoog op de agenda van elk kantoor te zetten en een professioneel kritische instelling te hebben ten aanzien van alle softwareproducten. Ongeacht wie het heeft gebouwd. Ook hier geldt "vertrouwen is goed, maar controle is beter".