KPMG trekt adviesrapport over AI-agents terug wegens misleidende informatie
Een internationaal rapport van KPMG, over de inzet van AI-agents door bedrijven, is teruggetrokken omdat verschillende citaten onjuist of misleidend blijken te zijn. Het is niet de eerste keer dat AI hallucineert in een rapport van een big four-kantoor.
KPMG presenteerde in oktober vorig jaar een internationaal adviesrapport met als titel Redefining excellence in the age of agentic AI, dat via memberfirms werd gepresenteerd in diverse landen.
Het rapport geeft voorbeelden van bedrijven en instellingen die al met succes gebruikmaken van AI-agents, zoals de Zwitserse bank UBS, de Britse National Health Service en Zwitserse en Britse openbaarvervoerbedrijven.
Verzonnen
Na onderzoek door GPTZero, gericht op het opsporen van door AI geschreven teksten, blijken de gepresenteerde citaten van de genoemde bedrijven echter verzonnen. In de Britse zakenkrant Financial Times geven woordvoerders van deze bedrijven aan dat de statements "feitelijk onjuist", "niet accuraat" of "misleidend" zijn.
Vanuit KPMG International is uiteindelijk besloten de publicatie terug te trekken. Het kantoor stelt tegenover de FT de "juistheid en integriteit" van de eigen publicaties zeer serieus te nemen en doet onderzoek naar de kwestie. Volgens KPMG is menselijk toezicht bij de inzet van AI van groot belang om te bewaken dat gegevens correct zijn.
Niet voor het eerst
Het is niet de eerste keer dat een big four-kantoor onderuitgaat met een adviesrapport waarin gebruik is gemaakt van AI. Zo moest de adviestak van EY in Canada medio mei nog een rapport terugtrekken omdat AI er lustig op los had gehallucineerd. Eerder bleek dat ook bij een adviesrapport van Deloitte in Australië, dat zorgde voor reputatieschade en het moeten terugbetalen van een groot deel van een factuur aan een overheidsorganisatie.
Volgens GPTZero-ceo Edward Tian zijn dergelijke incidenten schadelijk voor de geloofwaardigheid van grote accountants- en adviesorganisaties. Zij bieden immers nadrukkelijk diensten rondom de implementatie van AI aan bij opdrachtgevers en hebben de afgelopen jaren "honderden artikelen" over de inzet van AI gepubliceerd om klanten aan te trekken, aldus de FT.
Gerelateerd
Microsoft beperkt CO2-compensatie om meer geld in AI te steken
Microsoft beknibbelt flink op investeringen in CO2-compensatie, omdat het techbedrijf meer geld pompt in kunstmatige intelligentie.
Bij kwart organisaties bereiken AI-fouten ook externe partijen of de bestuurskamer
Eén op de vier Nederlandse professionals stelt dat interne audits AI-fouten hebben ontdekt die ook externe partijen of de raad van bestuur bereikten. Tegelijk zijn...
AI bedreigt strategisch advieswerk
AI neemt een belangrijk deel van het traditionele analysewerk van strategische adviesbureaus over. Consultants verkopen niet langer vooral kennis, maar het proces...
Tijdsdruk vergroot risico op AI-fouten bij accountants en advocaten
De inzet van AI in de zakelijke dienstverlening biedt kansen voor efficiëntie en productiviteit, maar brengt ook risico's met zich mee. Recente incidenten, bij onder...
