Tijdsdruk vergroot risico op AI-fouten bij accountants en advocaten
De inzet van AI in de zakelijke dienstverlening biedt kansen voor efficiëntie en productiviteit, maar brengt ook risico's met zich mee. Recente incidenten, bij onder meer PwC en in de advocatuur, bewijzen dat onjuiste of verzonnen informatie uit AI-systemen in professionele publicaties en juridische stukken kan belanden.
Volgens deskundigen spelen hoge werkdruk en een gebrek aan kritisch gebruik hierbij een belangrijke rol, zo schrijft het FD. Aanleiding is onder meer commotie rond adviesrapporten van PwC waarin diverse fouten stonden, zoals verzonnen voetnoten, verkeerd toegeschreven claims en informatie die niet kon worden geverifieerd.
Eerder zagen ook EY en KPMG zich genoodzaakt rapporten in te trekken, nadat AI-hallucinaties waren vastgesteld.
Geen zoekmachine
Volgens Julia van Leeuwen, advocaat en AI-trainer, wordt AI nog te vaak op een verkeerde manier gebruikt. "Veel professionals maken de fout om AI te gebruiken als een zoekmachine, terwijl dat niet is wat het is", stelt zij tegenover het FD. Zo ontstaat gemakkelijk een vals gevoel van zekerheid. "Er is vaak een te groot vertrouwen in het eerste antwoord dat de AI geeft, terwijl deze systemen zijn ontworpen om antwoorden overtuigend te laten klinken, ook als ze onjuist zijn."
Ook in de juridische praktijk gaat het mis. Recent kreeg een advocaat een berisping nadat in processtukken niet-bestaande en onjuiste jurisprudentie uit een AI-tool was overgenomen. Zulke fouten kunnen grote gevolgen hebben, variërend van reputatieschade tot juridische sancties.
Overtuigingskracht
Volgens juridisch AI-consultant Pim Betist schuilt een belangrijk risico in de toenemende overtuigingskracht van AI-systemen. Hoewel de kwaliteit van de modellen verbetert, groeit hun betrouwbaarheid volgens hem minder snel dan vaak wordt aangenomen. "De kracht van AI-systemen neemt enorm toe, terwijl de betrouwbaarheid maar mondjesmaat verbetert."
Deskundigen benadrukken dat het gebruik van AI niets verandert aan de professionele verantwoordelijkheid van accountants, advocaten en andere adviseurs. Zij blijven zelf verantwoordelijk voor de juistheid van hun werk en moeten informatie controleren, ongeacht de bron.
Kwaliteitscontroles
Opvallend is dat fouten soms door bestaande kwaliteitscontroles heen glippen, hoewel professionele dienstverleners doorgaans werken met meerdere controlelagen. Werk van junior medewerkers wordt veelal door ervaren collega's beoordeeld, voordat het naar buiten gaat.
Toch blijken die waarborgen in de praktijk niet altijd afdoende. Volgens Bert Vries, hoofd innovatie & technologie bij advocatenkantoor CMS, speelt tijdsdruk daarin een belangrijke rol. "Medewerkers werken vaak met strakke deadlines, waardoor het risico bestaat dat ze de uitkomsten van AI-tools te snel overnemen en onvoldoende kritisch controleren."
AI-geletterdheid
Om risico's te beperken is volgens experts meer kennis nodig over zowel de mogelijkheden als de beperkingen van AI. Van Leeuwen pleit ervoor al vroeg aandacht te besteden aan kritisch gebruik van de technologie. "Het opleiden in het gebruik van AI moet al op de middelbare school en tijdens de studie beginnen."
Volgens haar gebruiken veel jongeren AI-toepassingen zonder voldoende kritisch na te denken over de betrouwbaarheid van de uitkomsten. Daarnaast ziet zij een belangrijke rol voor beroepsorganisaties, zoals de Nederlandse Orde van Advocaten en de NBA, die advies kunnen geven en richtlijnen opstellen voor verantwoord AI-gebruik. Zelf werkt Van Leeuwen binnen de advocatuur aan zulke richtlijnen, maar mede door de snelle technologische ontwikkelingen is dat "een uitdaging" en wordt al gewerkt aan herziening van een eerste versie.
Tijd voor controle belonen
Professionals die AI-uitkomsten zorgvuldig willen controleren, zijn daar in eerste instantie juist extra tijd aan kwijt. Dat kan botsen met een sterke focus op declarabele uren en efficiëntie binnen veel kantoren. "Onder tijdsdruk kan daardoor de verleiding ontstaan om controles over te slaan", waarschuwt Betist. Organisaties moeten medewerkers daarom meer ruimte geven om te investeren in kennisontwikkeling en kwaliteitscontrole rondom AI.
Sectoren als de advocatuur en de accountancy zijn nog te zeer gericht op declarabele uren, meent hij. “Tijd investeren in het beter werken met AI zou daarom meer beloond moeten worden.”
Gerelateerd
Ethische hackers breken in bij ChatGPT-maker OpenAI
Ethische hackers hebben recent weten in te breken bij OpenAI, het bedrijf achter chatbot ChatGPT. Onderzoekers van beveiligingsplatform Hacktron ontdekten twee kritieke...
Koning Charles wil belofte van AI-toplieden om mensheid te beschermen
De Britse koning Charles heeft enkele van de belangrijkste figuren uit de wereld van kunstmatige intelligentie (AI) uitgenodigd, om de verzekering te vragen dat...
Voor zes op de tien accountants is AI de grootste gamechanger voor hun beroep
Nederlandse accountants verwachten dat AI en automatisering hun beroep het komende decennium het meest ingrijpend zullen veranderen. Van de accountants die verandering...
Ook in fiscale praktijk groeit invloed van AI snel
Bij onderzoek, documentanalyse en kennisontsluiting speelt AI inmiddels een stevige rol in de belastingadviespraktijk. Maar betrouwbaarheid, ethiek en opleiding...
AI-veiligheid onderwerp van debat na waarschuwingen en incidenten
De discussie over de risico's van kunstmatige intelligentie laait in de Verenigde Staten verder op. Techleiders roepen op tot meer voorzichtigheid bij de ontwikkeling...
