EY-consultants in Canada trekken rapport terug wegens hallucinaties door AI
Consultants van EY in Canada hebben een onderzoeksrapport naar loyaliteitsprogramma’s ingetrokken, omdat het AI-hallucinaties en valse voetnoten blijkt te bevatten. Het is niet voor het eerst dat een big four-organisatie wordt geconfronteerd met missers die worden gemaakt bij de inzet van AI.
Dat meldt de Britse zakenkrant Financial Times. Het onderzoek Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty System’, werd door EY-consultants in Canada gebruikt om cybersecuritydiensten te promoten. Maar de publicatie maakte gebruik van verzonnen gegevens, onjuiste bronvermeldingen en verwees naar een niet-bestaand McKinsey-rapport, zo ontdekten online onderzoekers.
EY Canada verwijderde het onderzoek van de eigen website, nadat de hallucinaties door onderzoeksgroep GPTZero aan het licht waren gebracht. De onderzoekers toonden aan dat het rapport gebruik maakte van onjuiste of inconsistente gegevens, om te onderbouwen dat loyaliteitsprogramma's van bedrijven kwetsbaar zijn voor fraude. Zo verwees meer dan een half dozijn voetnoten in het rapport van EY naar webpagina's die niet bestonden of die de geciteerde informatie niet bevatten, ontdekte GPTZero.
Volgens de Financial Times onderzoekt de Canadese EY-organisatie "de omstandigheden die tot publicatie hebben geleid". Het kantoor stelt dat de studie geen verband hield met werkzaamheden voor cliënten en benadrukt dat de hele organisatie staat voor een “verantwoord gebruik van AI”.
Niet voor het eerst
Het is niet voor het eerst dat adviseurs van big four-organisaties worden geconfronteerd met missers bij de inzet van AI. Eerder bevatte een adviesrapport van Deloitte in Australië de nodige onjuiste academische citaten en moest het kantoor daardoor een flink deel van een factuur aan een overheidsorganisatie terugbetalen.
Dit voorjaar kwam de Britse toezichthouder Financial Reporting Council (FRC) met richtlijnen voor de inzet van AI-tools bij auditopdrachten. Uitgangspunt daarbij is dat de accountant verantwoordelijk blijft en AI nooit de schuld kan geven.
Bron: Financial Times
Gerelateerd
We moeten leren charmante fouten te spotten
Als mensen fouten maken, dan zijn die vaak opzichtig en dus makkelijk te zien. Foute informatie van AI ziet er juist heel overtuigend uit. Haast charmant. Het spotten...
Bijna driekwart van Britse mkb-ondernemers handelen op AI-advies, voordat ze hun accountant raadplegen
Onderzoek onder 500 Britse mkb-ondernemers laat zien dat AI voor alledaagse financiële en fiscale vragen het eerste aanspreekpunt is geworden. Tegelijk heeft de...
Meer dan driekwart van accountantskantoren zet inmiddels AI in
Ruim driekwart van de Nederlandse accountantskantoren maakt inmiddels gebruik van AI-toepassingen. Tegelijk weet bijna de helft niet hoe ze AI het beste kunnen inzetten...
Nederland sluit zich aan bij Amerikaanse AI-alliantie
Nederland sluit zich aan bij de door de Verenigde Staten geleide Pax Silica-alliantie, om de toevoerketen voor de chipsindustrie en AI veilig te stellen. Het in...
AFM noemt Uitvoeringswet AI-verordening 'uitvoerbaar', maar voor effectief toezicht is aanpassing nodig
De Uitvoeringswet AI-verordening is in de basis uitvoerbaar, maar vraagt op onderdelen om aanpassingen voor effectief toezicht. Dat stelt de Autoriteit Financiële...