EY-consultants in Canada trekken rapport terug wegens hallucinaties door AI
Consultants van EY in Canada hebben een onderzoeksrapport naar loyaliteitsprogramma’s ingetrokken, omdat het AI-hallucinaties en valse voetnoten blijkt te bevatten. Het is niet voor het eerst dat een big four-organisatie wordt geconfronteerd met missers die worden gemaakt bij de inzet van AI.
Dat meldt de Britse zakenkrant Financial Times. Het onderzoek Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty System’, werd door EY-consultants in Canada gebruikt om cybersecuritydiensten te promoten. Maar de publicatie maakte gebruik van verzonnen gegevens, onjuiste bronvermeldingen en verwees naar een niet-bestaand McKinsey-rapport, zo ontdekten online onderzoekers.
EY Canada verwijderde het onderzoek van de eigen website, nadat de hallucinaties door onderzoeksgroep GPTZero aan het licht waren gebracht. De onderzoekers toonden aan dat het rapport gebruik maakte van onjuiste of inconsistente gegevens, om te onderbouwen dat loyaliteitsprogramma's van bedrijven kwetsbaar zijn voor fraude. Zo verwees meer dan een half dozijn voetnoten in het rapport van EY naar webpagina's die niet bestonden of die de geciteerde informatie niet bevatten, ontdekte GPTZero.
Volgens de Financial Times onderzoekt de Canadese EY-organisatie "de omstandigheden die tot publicatie hebben geleid". Het kantoor stelt dat de studie geen verband hield met werkzaamheden voor cliënten en benadrukt dat de hele organisatie staat voor een “verantwoord gebruik van AI”.
Niet voor het eerst
Het is niet voor het eerst dat adviseurs van big four-organisaties worden geconfronteerd met missers bij de inzet van AI. Eerder bevatte een adviesrapport van Deloitte in Australië de nodige onjuiste academische citaten en moest het kantoor daardoor een flink deel van een factuur aan een overheidsorganisatie terugbetalen.
Dit voorjaar kwam de Britse toezichthouder Financial Reporting Council (FRC) met richtlijnen voor de inzet van AI-tools bij auditopdrachten. Uitgangspunt daarbij is dat de accountant verantwoordelijk blijft en AI nooit de schuld kan geven.
Bron: Financial Times
Gerelateerd
FD: Verborgen AI-schulden big tech reden voor zorg bij accountants
De snelgroeiende investeringen in AI door grote technologiebedrijven, gaan gepaard met financiële constructies die volgens accountants en wetenschappers risico's...
Taskforce gaat voor Trump risico's en kansen AI in kaart brengen
Een taskforce van het Witte Huis gaat de risico's en kansen van kunstmatige intelligentie (AI) in kaart brengen. Ook wordt gekeken hoe overregulering kan worden...
AI vaker geraadpleegd dan de Belastingdienst
Kunstmatige intelligentie is in korte tijd uitgegroeid tot een van de belangrijkste informatiebronnen voor financieel en fiscaal professionals. 51,5 procent gebruikt...
Zo maken we het Nederlandse bedrijfsleven toekomstbestendig
In het kader van Prinsjesdag 2026 namen zeven lectoren van Zuyd Hogeschool, vanuit hun expertise de actuele ontwikkelingen en uitdagingen in Nederland onder de loep....
Speuren we niet op de verkeerde plek naar de AI-bubble?
Speculaties over het uiteenspatten van een AI-bubble komen al snel op, zodra er signalen zijn dat AI-toepassingen nog niet voldoen aan de verwachtingen. Maar dat...
