EY-consultants in Canada trekken rapport terug wegens hallucinaties door AI
Consultants van EY in Canada hebben een onderzoeksrapport naar loyaliteitsprogramma’s ingetrokken, omdat het AI-hallucinaties en valse voetnoten blijkt te bevatten. Het is niet voor het eerst dat een big four-organisatie wordt geconfronteerd met missers die worden gemaakt bij de inzet van AI.
Dat meldt de Britse zakenkrant Financial Times. Het onderzoek Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty System’, werd door EY-consultants in Canada gebruikt om cybersecuritydiensten te promoten. Maar de publicatie maakte gebruik van verzonnen gegevens, onjuiste bronvermeldingen en verwees naar een niet-bestaand McKinsey-rapport, zo ontdekten online onderzoekers.
EY Canada verwijderde het onderzoek van de eigen website, nadat de hallucinaties door onderzoeksgroep GPTZero aan het licht waren gebracht. De onderzoekers toonden aan dat het rapport gebruik maakte van onjuiste of inconsistente gegevens, om te onderbouwen dat loyaliteitsprogramma's van bedrijven kwetsbaar zijn voor fraude. Zo verwees meer dan een half dozijn voetnoten in het rapport van EY naar webpagina's die niet bestonden of die de geciteerde informatie niet bevatten, ontdekte GPTZero.
Volgens de Financial Times onderzoekt de Canadese EY-organisatie "de omstandigheden die tot publicatie hebben geleid". Het kantoor stelt dat de studie geen verband hield met werkzaamheden voor cliënten en benadrukt dat de hele organisatie staat voor een “verantwoord gebruik van AI”.
Niet voor het eerst
Het is niet voor het eerst dat adviseurs van big four-organisaties worden geconfronteerd met missers bij de inzet van AI. Eerder bevatte een adviesrapport van Deloitte in Australië de nodige onjuiste academische citaten en moest het kantoor daardoor een flink deel van een factuur aan een overheidsorganisatie terugbetalen.
Dit voorjaar kwam de Britse toezichthouder Financial Reporting Council (FRC) met richtlijnen voor de inzet van AI-tools bij auditopdrachten. Uitgangspunt daarbij is dat de accountant verantwoordelijk blijft en AI nooit de schuld kan geven.
Bron: Financial Times
Gerelateerd
Advocaten mogen met AI bespaarde uren niet declareren
Advocaten die dankzij de inzet van AI sneller werken, mogen de bespaarde tijd niet bij hun cliënten declareren. Dat stelt de Nederlandse Orde van Advocaten (NOvA)...
Hoe AI eruitziet op een gewone dinsdagochtend op kantoor
In mijn vorige opinie op Accountant.nl schreef ik dat je het personeelstekort niet oplost met een black box. De reacties kwamen bijna allemaal neer op dezelfde vraag:...
Nederlandse positie in AI moet sterker worden
Het kabinet wil meer regie nemen over de ontwikkeling en toepassing van kunstmatige intelligentie. Nederlandse AI-bedrijven moeten gemakkelijker kunnen groeien,...
Financiële verslaggeving AI-sector moet alarmbellen bij accountants laten rinkelen
De enorme risico's die zichtbaar zijn in de financiële verslaggeving van techgiganten, maakt dat er werk aan de winkel is voor accountants, aldus Marcel Pheijffer.
Synergie tussen mens en AI is bepalend voor het succes van accountantskantoren
Klanten vragen naar AI bij hun accountant, jaarrekeningcontroles kunnen met behulp van AI efficiënter en doeltreffender worden verricht. Toch blijft een controle...
