Discussie Opinie 02 december 2024

Twijfel = goed

Na de introductie van ChatGPT startte Nart Wielaard een ontdekkingstocht over wat AI betekent voor de accountant. Dat bleek ook de basis voor zijn debuutroman met als hoofdconclusie: twijfel is goed. Ook voor accountants.

Nart Wielaard

Januari 2023. In Malaga zie ik op een terras een jongeman zitten met een t-shirt met de opdruk Truth Denial. Ik ben op dat moment al een paar maanden met groot enthousiasme aan het spelen met ChatGPT en verbaas me over het gemak waarmee deze tool zomaar wat informatie of beelden oplepelt. Het dondert niet of het klopt. En dat past perfect bij de post-truth samenleving die is ontstaan.

De tekst op het shirt veroorzaakt kortsluiting in mijn hoofd. Ik wist opeens zeker dat er een roman moest komen over het einde van de waarheid. En ik moest Marc Schweppe ervan overtuigen dat ik down the rabbit hole moest om de impact van AI ook voor accountants te duiden, met een serie op accountant.nl. Zijn accountants immers niet elke dag bezig met de waarheid?

In dat konijnenhol leerde ik heel veel en ik probeerde dat zo beknopt mogelijk met accountants te delen. Eigenlijk is het veel te veel om hier op te noemen, maar toch een poging.

Allereerst leerde ik dat mijn vertrekpunt niet klopte. Er is niet zoiets als de waarheid, daarover hebben talloze filosofen zich al gebogen. Er zijn alleen maar perspectieven op de waarheid. Verder maakte ik kennis met werkelijk briljante technologie om alles te faken – ook de stem of de bewegende beelden van een cfo – en leerde ik ook dat er gelukkig veel wapens zijn om die nepperij te ontmaskeren.

Ik leerde dat een Nederlandse startup werkt aan een tamelijk fundamentele oplossing om de herkomst van informatie te garanderen. Ik leerde dat LLM's zoals ChatGPT er nogal eens naast kleunen, vooral als ze worden geconfronteerd worden met een vraag die buiten de grote bulk van hun data ligt. Dat er wordt gewerkt aan een oplossing daarvoor, maar dat dit hallucineren volgens veel experts toch echt 'not a bug but a feature' is.

Ik leerde dat de I in AI overschat is: het gaat niet om intelligentie, het is in de huidige vorm echt alleen maar 'statistics on steroids'. Dat AI precies daarom ook leidt tot veel middelmatigheid – is er nog wel ruimte voor de eigenzinnige David Bowies van deze wereld in een tijd waarin alles op basis van data wordt bedacht? – maar ook dat wij mensen misschien sowieso maar middelmatige wezens zijn. Dat AI de turbo zet op de informatiebubbels waarin we verkeren, zodat we nauwelijks nog geluiden of meningen van buiten die bubbel horen. Dat er ergens de komende jaren een risico van model collapse bestaat waarbij de modellen feitelijk hun eigen uitlaatgassen gaan inademen met potentieel een bizar grote informatievervuiling op internet.

De serie op accountant.nl eindigde met mijn conclusie dat AI een Japans keukenmes is: superhandig maar levensgevaarlijk voor de betrouwbaarheid van informatie als je niet weet hoe je ermee om moet gaan. Ik concludeerde ook dat deze ontwikkelingen fantastisch nieuws zijn voor het bestaansrecht van accountants. Niet alleen omdat accountants juist op aarde zijn om betrouwbaarheid van informatie te checken. Dit is dan ook een marktkans die zijn weerga niet kent als het vak zich opnieuw weet uit te vinden. Maar ook omdat accountants getraind zijn om te twijfelen aan de betrouwbaarheid van informatie. De professioneel-kritische instelling (PKI) wordt er immers in geramd op de opleiding en op de werkvloer (als het goed is).

En daarmee is voor mij de cirkel rond. Want die roman, die kwam er uiteindelijk twee jaar later ook. En die gaat precies hierover. Pijnloos Prikkeldraad is een gedachtenexperiment over hoe de wereld eruit zou kunnen zien, als AI verder oprukt in onze levens. Pas toen ik klaar was, had ik echt scherp wat het was: het is een ode aan de twijfel geworden. Als u meer wilt lezen over waarom twijfel goed is, dan kunt u dus mijn serie op accountant.nl nog eens doornemen. Maar u kunt ook een roman lezen. Ik twijfel nog wat de beste keuze is.