Nieuws Vandaag

Tijdsdruk vergroot risico op AI-fouten bij accountants en advocaten

De inzet van AI in de zakelijke dienstverlening biedt kansen voor efficiëntie en productiviteit, maar brengt ook risico's met zich mee. Recente incidenten, bij onder meer PwC en in de advocatuur, bewijzen dat onjuiste of verzonnen informatie uit AI-systemen in professionele publicaties en juridische stukken kan belanden.

Volgens deskundigen spelen hoge werkdruk en een gebrek aan kritisch gebruik hierbij een belangrijke rol, zo schrijft het FD. Aanleiding is onder meer commotie rond adviesrapporten van PwC waarin diverse fouten stonden, zoals verzonnen voetnoten, verkeerd toegeschreven claims en informatie die niet kon worden geverifieerd.

Eerder zagen ook EY en KPMG zich genoodzaakt rapporten in te trekken, nadat AI-hallucinaties waren vastgesteld.

Geen zoekmachine

Volgens Julia van Leeuwen, advocaat en AI-trainer, wordt AI nog te vaak op een verkeerde manier gebruikt. "Veel professionals maken de fout om AI te gebruiken als een zoekmachine, terwijl dat niet is wat het is", stelt zij tegenover het FD. Zo ontstaat gemakkelijk een vals gevoel van zekerheid. "Er is vaak een te groot vertrouwen in het eerste antwoord dat de AI geeft, terwijl deze systemen zijn ontworpen om antwoorden overtuigend te laten klinken, ook als ze onjuist zijn."

Ook in de juridische praktijk gaat het mis. Recent kreeg een advocaat een berisping nadat in processtukken niet-bestaande en onjuiste jurisprudentie uit een AI-tool was overgenomen. Zulke fouten kunnen grote gevolgen hebben, variërend van reputatieschade tot juridische sancties.

Overtuigingskracht

Volgens juridisch AI-consultant Pim Betist schuilt een belangrijk risico in de toenemende overtuigingskracht van AI-systemen. Hoewel de kwaliteit van de modellen verbetert, groeit hun betrouwbaarheid volgens hem minder snel dan vaak wordt aangenomen. "De kracht van AI-systemen neemt enorm toe, terwijl de betrouwbaarheid maar mondjesmaat verbetert."

Deskundigen benadrukken dat het gebruik van AI niets verandert aan de professionele verantwoordelijkheid van accountants, advocaten en andere adviseurs. Zij blijven zelf verantwoordelijk voor de juistheid van hun werk en moeten informatie controleren, ongeacht de bron.

Kwaliteitscontroles

Opvallend is dat fouten soms door bestaande kwaliteitscontroles heen glippen, hoewel professionele dienstverleners doorgaans werken met meerdere controlelagen. Werk van junior medewerkers wordt veelal door ervaren collega's beoordeeld, voordat het naar buiten gaat.

Toch blijken die waarborgen in de praktijk niet altijd afdoende. Volgens Bert Vries, hoofd innovatie & technologie bij advocatenkantoor CMS, speelt tijdsdruk daarin een belangrijke rol. "Medewerkers werken vaak met strakke deadlines, waardoor het risico bestaat dat ze de uitkomsten van AI-tools te snel overnemen en onvoldoende kritisch controleren."

AI-geletterdheid

Om risico's te beperken is volgens experts meer kennis nodig over zowel de mogelijkheden als de beperkingen van AI. Van Leeuwen pleit ervoor al vroeg aandacht te besteden aan kritisch gebruik van de technologie. "Het opleiden in het gebruik van AI moet al op de middelbare school en tijdens de studie beginnen."

Volgens haar gebruiken veel jongeren AI-toepassingen zonder voldoende kritisch na te denken over de betrouwbaarheid van de uitkomsten. Daarnaast ziet zij een belangrijke rol voor beroepsorganisaties, zoals de Nederlandse Orde van Advocaten en de NBA, die advies kunnen geven en richtlijnen opstellen voor verantwoord AI-gebruik. Zelf werkt Van Leeuwen binnen de advocatuur aan zulke richtlijnen, maar mede door de snelle technologische ontwikkelingen is dat "een uitdaging" en wordt al gewerkt aan herziening van een eerste versie.

Tijd voor controle belonen

Professionals die AI-uitkomsten zorgvuldig willen controleren, zijn daar in eerste instantie juist extra tijd aan kwijt. Dat kan botsen met een sterke focus op declarabele uren en efficiëntie binnen veel kantoren. "Onder tijdsdruk kan daardoor de verleiding ontstaan om controles over te slaan", waarschuwt Betist. Organisaties moeten medewerkers daarom meer ruimte geven om te investeren in kennisontwikkeling en kwaliteitscontrole rondom AI.

Sectoren als de advocatuur en de accountancy zijn nog te zeer gericht op declarabele uren, meent hij. “Tijd investeren in het beter werken met AI zou daarom meer beloond moeten worden.”

• FD: 'Hoge tijdsdruk vergroot kans op AI-fouten in zakelijke dienstverlening'