Nart Wielaard

Twintig jaar geleden rolden Amerikaanse tanks de Iraakse hoofdstad Bagdad binnen. Mohammed Saeed al-Sahaf - de Iraakse minister van informatie - zat enkele honderden meters verderop achter een kluwen microfoons doodleuk te verkondigen dat er geen Amerikanen in Bagdad waren en dat deze zelfs massaal zelfmoord pleegden. Het was heel duidelijk dat 'Bagdad Bob', zoals zijn bijnaam luidde, niet de waarheid sprak.

Ook in 2023 blijkt de waarheid - disclaimer: in deze bijdrage gaan we niet in op de filosofische definities daarvan - nogal eens een lastig begrip voor menig politicus. En die waarheid wordt niet alleen geslachtofferd in tijden van oorlog, maar bijvoorbeeld ook in debatten over toeslagenaffaires of coronamaatregelen. Gekoppeld aan de enorme beïnvloedingskracht van sociale media is dergelijke misinformatie dan ook een groot gevaar en bedreigt het onze democratische stelsels. Een vaak gehoorde redenering daarbij is dat AI - ChatGPT en andere tools - dit probleem exponentieel zal vergroten. Onder meer Yuval Noah Harari wijst erop dat onze democratie in gevaar is, omdat AI ons "operating system hackt".

'Gekoppeld aan de enorme beïnvloedingskracht van sociale media is misinformatie een groot gevaar en bedreigt het onze democratische stelsels.'

Dat lijkt een terechte zorg, maar het is wel goed om daarbij te begrijpen dat AI in feite net even een ander probleem veroorzaakt waar het gaat om ons ecosysteem met informatie. Informatie waarop we onze beslissingen baseren. ChatGPT doet namelijk echt iets wezenlijk anders dan Bagdad Bob. De laatste loog en dat wist hij zelf heel goed. Zijn doel was om met zijn leugens de publieke opinie beïnvloeden. Populistische politici doen dit nu ook nog dagelijks. Er wordt vaak gezegd dat de waarheid hen niet interesseert. Maar dat is vaak niet zo. Ze zijn wel begaan met de waarheid, maar niet met het vertellen van de waarheid.

Hallucinerende systemen

Dat ligt heel anders bij de productie van misinformatie door AI. Daarover bestaan grote zorgen en die lijken terecht. Want AI verzint er vooralsnog flink op los, zo ondervond onder meer een journalist die doodverklaard was door ChatGPT (inclusief een niet functionerende, want niet bestaande link naar zijn necrologie) en een professor die ten onrechte werd beschuldigd van seksuele intimidatie. De bazen van Big Tech spreken dan zelf over hallucinerende systemen. Dat klinkt wat mysterieus en haast vergoelijkend, alsof het een goed mens is met ook wat slechte karaktertrekjes. Maar de realiteit is dat zo'n tool dan gewoon heel slecht is. Als een auto af en toe spontaan niet zou reageren op rem of stuur, dan horen we de ceo van de autofabrikant toch ook niet vergoelijkend zeggen dat de auto wel eens wat koppig of ongehoorzaam is? Dan is het gewoon een heel slechte auto.

'Belangrijk is om voor ogen te houden dat een AI-tool niet liegt.'

Belangrijker dan het vergoelijkende jargon, is om voor ogen te houden dat een AI-tool niet liegt. Het maakt ChatGPT namelijk niet uit of er - in overdrachtelijke zin - nu wel of geen tanks de stad binnen rollen. De tool spuugt gewoon bij tijd en wijle complete onzin uit, zonder agenda daarachter. Bullshit is dan ook echt wat anders dan een leugen. Harry Frankfurt schreef daar ooit een heel mooi boekje over, een aanrader voor wie in een uur tijd wat inspiratie wil opdoen.

Leugens of bullshit

Waarom dat verschil tussen leugens en bullshit van belang is? Omdat leugenaars een 'natuurlijke vijand' hebben en bullshitters niet. Als we tenminste vertrouwen op de optimistische visie van filosoof Søren Kierkegaard: "Truth always rests with the minority, and the minority is always stronger than the majority, because the minority is generally formed by those who really have an opinion, while the strength of a majority is illusory, formed by the gangs who have no opinion—and who, therefore, in the next instant (when it is evident that the minority is the stronger) assume its opinion… while truth again reverts to a new minority."

In de redenering van Kierkegaard zal een populistische politicus die erop los liegt in eerste instantie een groot gehoor vinden, maar zal deze uiteindelijk worden ingehaald door de werkelijkheid.

Bij liegen wordt 'het volk' dus bewust een verkeerde kant op gestuurd. Maar AI-tools die een oceaan aan bullshit produceren hebben helemaal geen (verborgen) agenda om percepties te sturen. Het probleem van die bullshit is dan ook niet dat we als volk een bepaalde richting op gebonjourd worden met misinformatie. Het probleem is dat er geen richting meer is. Het effect: mensen worden zombies. Willoos. En stuurloos. <voeg hier een eenvoudige oplossing in 😉 >

Dit is deel 7 van een reeks bijdragen waarin Nart Wielaard op zoek gaat naar waarheid in een digitale wereld en wat dat betekent voor de accountant. Beluister ook de Vitamine A-podcast met Nart Wielaard over hetzelfde thema. Op de komende Accountantsdag (23 november) spreekt Nart tijdens twee sessies over AI en het accountantsberoep.