EY-consultants in Canada trekken rapport terug wegens hallucinaties door AI
Consultants van EY in Canada hebben een onderzoeksrapport naar loyaliteitsprogramma’s ingetrokken, omdat het AI-hallucinaties en valse voetnoten blijkt te bevatten. Het is niet voor het eerst dat een big four-organisatie wordt geconfronteerd met missers die worden gemaakt bij de inzet van AI.
Dat meldt de Britse zakenkrant Financial Times. Het onderzoek Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty System’, werd door EY-consultants in Canada gebruikt om cybersecuritydiensten te promoten. Maar de publicatie maakte gebruik van verzonnen gegevens, onjuiste bronvermeldingen en verwees naar een niet-bestaand McKinsey-rapport, zo ontdekten online onderzoekers.
EY Canada verwijderde het onderzoek van de eigen website, nadat de hallucinaties door onderzoeksgroep GPTZero aan het licht waren gebracht. De onderzoekers toonden aan dat het rapport gebruik maakte van onjuiste of inconsistente gegevens, om te onderbouwen dat loyaliteitsprogramma's van bedrijven kwetsbaar zijn voor fraude. Zo verwees meer dan een half dozijn voetnoten in het rapport van EY naar webpagina's die niet bestonden of die de geciteerde informatie niet bevatten, ontdekte GPTZero.
Volgens de Financial Times onderzoekt de Canadese EY-organisatie "de omstandigheden die tot publicatie hebben geleid". Het kantoor stelt dat de studie geen verband hield met werkzaamheden voor cliënten en benadrukt dat de hele organisatie staat voor een “verantwoord gebruik van AI”.
Niet voor het eerst
Het is niet voor het eerst dat adviseurs van big four-organisaties worden geconfronteerd met missers bij de inzet van AI. Eerder bevatte een adviesrapport van Deloitte in Australië de nodige onjuiste academische citaten en moest het kantoor daardoor een flink deel van een factuur aan een overheidsorganisatie terugbetalen.
Dit voorjaar kwam de Britse toezichthouder Financial Reporting Council (FRC) met richtlijnen voor de inzet van AI-tools bij auditopdrachten. Uitgangspunt daarbij is dat de accountant verantwoordelijk blijft en AI nooit de schuld kan geven.
Bron: Financial Times
Gerelateerd
AI raakt snel ingeburgerd bij zzp’ers
Het gebruik van kunstmatige intelligentie onder zzp’ers is in een jaar tijd sterk gegroeid. Van de zelfstandigen gebruikt 84 procent AI voor het werk en de helft...
PwC-onderzoek: tientallen biljoenen gaan in de toekomst naar AI-datacenters
De wereldwijde investeringen in AI-datacenters zullen de komende jaren blijven toenemen door de enorme AI-vraag. Volgens internationaal onderzoek door PwC kan het...
Universiteiten worstelen met balans tussen AI en academische vorming
De snelle opmars van AI dwingt universiteiten na te denken over de toekomst van onderwijs en onderzoek. Dat bleek onder meer tijdens het openingscollege van de VU-Accountantsopleiding...
KPMG ziet wereldwijde investeringen in fintech stijgen
De investeringen in technologische vernieuwingen in de financiële sector zijn de eerste zes maanden van dit jaar met 40 procent toegenomen. Tegelijkertijd daalde...
Grote consultants jagen op AI-talent dat techniek en advies combineert
Grote consultancyhuizen als Deloitte, Accenture, Capgemini en McKinsey zijn op zoek naar een nieuw type AI-specialist: de Forward Deployed Engineer (FDE). De vraag...
