Naar verluidt bestaat meer dan de helft van het verkeer op internet inmiddels uit bots. Dus als u het gevoel heeft dat uw LinkedIn-timeline steeds minder door mensen wordt gevuld en steeds meer door machines: dat klopt waarschijnlijk. Het heeft natuurlijk alles te maken met de opkomst van AI en geeft voeding aan de al jaren bestaande Dead Internet Theory: de theorie dat machines het internet overspoelen met synthetische media, van teksten en plaatjes tot video's, waardoor het uiteindelijk totaal nutteloos wordt. Niet voor niets introduceerde de New York Times de term Slop, analoog aan de alom bekende spam: een eindeloze hoeveelheid rommel die door AI wordt geproduceerd.

Aanvankelijk werd die oceaan aan rommel vooral als een gevaar voor de democratie gezien. In een wereld waar nep en echt toch al nauwelijks van elkaar zijn te onderscheiden en waarin het er niet toe doet of Shrimp Jesus nu wel of niet bestaat, is het immers makkelijker om een schare volgers bij elkaar te krijgen die begint te geloven in je ideeën en niet eens meer de moeite neemt om te controleren of deze ergens op gebaseerd zijn.

Fraude

Maar het gevaar ligt (steeds vaker) ook op een ander terrein: fraude met synthetische documenten. Denk hierbij aan fake foto's om verzekeringsgeld te claimen, fake documenten om bankrekeningen aan te vragen, maar ook aan fake verschijningen in team calls om de cfo geld te ontfutselen. Dat het geen denkbeeldige scenario's zijn, is inmiddels wel bekend. Een van de bekendere voorbeelden is hoe het internationale ingenieursbureau Arup, bekend van wereldberoemde gebouwen zoals het Sydney Opera House al eens 25 miljoen dollar kwijtraakte door dergelijke technieken.

'Het binnenskamers houden van incidenten is in het geval van succesvolle hacks schering en inslag.'

Een van de vragen die daarbij opkomt, is hoeveel van de cases binnenskamers worden gehouden - uit schaamte of om de reputatie niet te beschadigen. Het binnenskamers houden van incidenten is in het geval van succesvolle hacks schering en inslag, precies om die reden.

Hoe het ook zij, deepfake-aanvallen zijn inmiddels precisiewapens en vormen daarmee ook een bedreiging waarop de meeste organisaties gevaarlijk onvoorbereid blijven. Aldus het World Economic Forum, dat claimt dat het vertrouwen op het spel staat omdat het heel hard gaat met deze vorm van fraude. Het aantal gevallen van deepfake-fraude steeg in Noord-Amerika met 1740 procent tussen 2022 en 2023, met financiële verliezen van meer dan $ 200 miljoen alleen al in het eerste kwartaal van 2025.

Toegankelijker

Het is niet moeilijk om de oorzaak van deze stijging aan te wijzen. Technologie om te faken wordt niet alleen steeds beter, maar vooral steeds toegankelijker. Ook als u een zelfverklaard digibeet bent, kunt u in een paar seconden een foto van uw auto maken met een beschadigde bumper en deze indienen bij uw verzekering als bewijsmateriaal. Een stem klonen vergt wat meer handigheid, maar ook daar is geen PhD voor nodig. Ben Colman, ceo van Reality Defender - een startup die de strijd aanbindt met de fakery en ervoor pleit om haar systemen te integreren in allerlei platforms van bedrijven - vatte het onlangs mooi samen: "Open-source AI models now hand nation-state powers to anyone with a gaming laptop."

'Over die fake-foto die u van uw auto maakte: dien die maar niet in.'

Over die fake-foto die u van uw auto maakte: dien die maar niet in. De kans is namelijk heel groot dat de verzekeraar u betrapt - en dat u daarmee op een zwarte lijst belandt. Verzekeraars zijn immers niet gek en weten dat AI niet alleen een wapen is in de handen van kwaadwillenden, maar ook een instrument om dat misbruik tegen te gaan. Eenvoudige vormen van fraude - een aankoopbon waarop is gerommeld met een datum, een gemanipuleerde politieaangifte of een fake-foto - zullen waarschijnlijk wel door dat AI-filter worden opgepakt. Want veel zaken die u met het blote oog niet kunt zien, zijn door algoritmes haast feilloos aan te wijzen. En vergeet ook de contextuele informatie niet die in een foto of ander document is opgeslagen - metadata zoals de datum van de opname, het apparaat waarmee deze oorspronkelijk is gemaakt etc. Deze contextuele informatie levert bij controles veel red flags op.

Wapenwedloop

Het wordt echter een ander verhaal als professionele partijen op een geavanceerdere manier gaan faken: zij kennen de technieken waarmee wordt getracht hun werk te ontmaskeren en anticiperen daarop. En dat weet de industrie natuurlijk ook, zodat er een ware wapenwedloop aan het ontstaan is. Vooralsnog is er daarbij één conclusie te trekken. Er is een enorme veelheid aan detectietechnieken en modellen - voor de liefhebber hier een paper met een indrukwekkende overzicht - en geen enkele techniek is de absolute winnaar. Maar juist de combinatie van verschillende technieken is erg effectief.

'Juist de combinatie van verschillende technieken is erg effectief.'

Moderne detectiesystemen combineren dan ook meerdere lagen: OCR om tekst en cijferwaarden te extraheren, metadata-analyse (EXIF) om bestanden op herkomst en bewerkingstijdstempels te controleren en beeldanalyses (grayscale, ruispatronen) om subtiele digitale artefacten te detecteren. Die combinatie is voor de meeste vervalsers (vooralsnog) een lastig te nemen verdedigingslinie.

En die combinatie kan cruciaal zijn voor uw klanten, maar ook voor uw eigen professionele omgeving. Herinnert u zich nog het schandaal rond het Duitse Wirecard - waar accountants met screenshots de banksaldi van in totaal 1,9 miljard euro controleerden? Dat overkomt u natuurlijk niet. Toch?

AI is een belangrijk thema op de Accountantsdag 2025, die wordt gehouden op 19 november aanstaande. Nart Wielaard spreekt zelf tijdens de deelsessie over AI-agents in de accountancy.