Nieuws Vandaag

KPMG trekt adviesrapport over AI-agents terug wegens misleidende informatie

Een internationaal rapport van KPMG, over de inzet van AI-agents door bedrijven, is teruggetrokken omdat verschillende citaten onjuist of misleidend blijken te zijn. Het is niet de eerste keer dat AI hallucineert in een rapport van een big four-kantoor.

KPMG presenteerde in oktober vorig jaar een internationaal adviesrapport met als titel Redefining excellence in the age of agentic AI, dat via memberfirms werd gepresenteerd in diverse landen.

Het rapport geeft voorbeelden van bedrijven en instellingen die al met succes gebruikmaken van AI-agents, zoals de Zwitserse bank UBS, de Britse National Health Service en Zwitserse en Britse openbaarvervoerbedrijven.

Verzonnen

Na onderzoek door GPTZero, gericht op het opsporen van door AI geschreven teksten, blijken de gepresenteerde citaten van de genoemde bedrijven echter verzonnen. In de Britse zakenkrant Financial Times geven woordvoerders van deze bedrijven aan dat de statements "feitelijk onjuist", "niet accuraat" of "misleidend" zijn.

Vanuit KPMG International is uiteindelijk besloten de publicatie terug te trekken. Het kantoor stelt tegenover de FT de "juistheid en integriteit" van de eigen publicaties zeer serieus te nemen en doet onderzoek naar de kwestie. Volgens KPMG is menselijk toezicht bij de inzet van AI van groot belang om te bewaken dat gegevens correct zijn.

Niet voor het eerst

Het is niet de eerste keer dat een big four-kantoor onderuitgaat met een adviesrapport waarin gebruik is gemaakt van AI. Zo moest de adviestak van EY in Canada medio mei nog een rapport terugtrekken omdat AI er lustig op los had gehallucineerd. Eerder bleek dat ook bij een adviesrapport van Deloitte in Australië, dat zorgde voor reputatieschade en het moeten terugbetalen van een groot deel van een factuur aan een overheidsorganisatie.

Volgens GPTZero-ceo Edward Tian zijn dergelijke incidenten schadelijk voor de geloofwaardigheid van grote accountants- en adviesorganisaties. Zij bieden immers nadrukkelijk diensten rondom de implementatie van AI aan bij opdrachtgevers en hebben de afgelopen jaren "honderden artikelen" over de inzet van AI gepubliceerd om klanten aan te trekken, aldus de FT.