Artificiële intelligentie

Het einde van de waarheid: AI zet de turbo op bullshit en dat is erger dan liegen

U dacht dat leugens van politici en ceo's een levensgroot probleem zijn voor de wereld? Zet u dan maar schrap voor hoe AI-tools binnenkort een oceaan van bullshit opleveren. En bedenk daarbij goed dat er een groot verschil is tussen leugens en bullshit.

Nart Wielaard

Twintig jaar geleden rolden Amerikaanse tanks de Iraakse hoofdstad Bagdad binnen. Mohammed Saeed al-Sahaf - de Iraakse minister van informatie - zat enkele honderden meters verderop achter een kluwen microfoons doodleuk te verkondigen dat er geen Amerikanen in Bagdad waren en dat deze zelfs massaal zelfmoord pleegden. Het was heel duidelijk dat 'Bagdad Bob', zoals zijn bijnaam luidde, niet de waarheid sprak.

Foto: Pinokkio

Ook in 2023 blijkt de waarheid - disclaimer: in deze bijdrage gaan we niet in op de filosofische definities daarvan - nogal eens een lastig begrip voor menig politicus. En die waarheid wordt niet alleen geslachtofferd in tijden van oorlog, maar bijvoorbeeld ook in debatten over toeslagenaffaires of coronamaatregelen. Gekoppeld aan de enorme beïnvloedingskracht van sociale media is dergelijke misinformatie dan ook een groot gevaar en bedreigt het onze democratische stelsels. Een vaak gehoorde redenering daarbij is dat AI - ChatGPT en andere tools - dit probleem exponentieel zal vergroten. Onder meer Yuval Noah Harari wijst erop dat onze democratie in gevaar is, omdat AI ons "operating system hackt".

'Gekoppeld aan de enorme beïnvloedingskracht van sociale media is misinformatie een groot gevaar en bedreigt het onze democratische stelsels.'

Dat lijkt een terechte zorg, maar het is wel goed om daarbij te begrijpen dat AI in feite net even een ander probleem veroorzaakt waar het gaat om ons ecosysteem met informatie. Informatie waarop we onze beslissingen baseren. ChatGPT doet namelijk echt iets wezenlijk anders dan Bagdad Bob. De laatste loog en dat wist hij zelf heel goed. Zijn doel was om met zijn leugens de publieke opinie beïnvloeden. Populistische politici doen dit nu ook nog dagelijks. Er wordt vaak gezegd dat de waarheid hen niet interesseert. Maar dat is vaak niet zo. Ze zijn wel begaan met de waarheid, maar niet met het vertellen van de waarheid.

Hallucinerende systemen

Dat ligt heel anders bij de productie van misinformatie door AI. Daarover bestaan grote zorgen en die lijken terecht. Want AI verzint er vooralsnog flink op los, zo ondervond onder meer een journalist die doodverklaard was door ChatGPT (inclusief een niet functionerende, want niet bestaande link naar zijn necrologie) en een professor die ten onrechte werd beschuldigd van seksuele intimidatie. De bazen van Big Tech spreken dan zelf over hallucinerende systemen. Dat klinkt wat mysterieus en haast vergoelijkend, alsof het een goed mens is met ook wat slechte karaktertrekjes. Maar de realiteit is dat zo'n tool dan gewoon heel slecht is. Als een auto af en toe spontaan niet zou reageren op rem of stuur, dan horen we de ceo van de autofabrikant toch ook niet vergoelijkend zeggen dat de auto wel eens wat koppig of ongehoorzaam is? Dan is het gewoon een heel slechte auto.

'Belangrijk is om voor ogen te houden dat een AI-tool niet liegt.'

Belangrijker dan het vergoelijkende jargon, is om voor ogen te houden dat een AI-tool niet liegt. Het maakt ChatGPT namelijk niet uit of er - in overdrachtelijke zin - nu wel of geen tanks de stad binnen rollen. De tool spuugt gewoon bij tijd en wijle complete onzin uit, zonder agenda daarachter. Bullshit is dan ook echt wat anders dan een leugen. Harry Frankfurt schreef daar ooit een heel mooi boekje over, een aanrader voor wie in een uur tijd wat inspiratie wil opdoen.

Leugens of bullshit

Waarom dat verschil tussen leugens en bullshit van belang is? Omdat leugenaars een 'natuurlijke vijand' hebben en bullshitters niet. Als we tenminste vertrouwen op de optimistische visie van filosoof Søren Kierkegaard: "Truth always rests with the minority, and the minority is always stronger than the majority, because the minority is generally formed by those who really have an opinion, while the strength of a majority is illusory, formed by the gangs who have no opinion—and who, therefore, in the next instant (when it is evident that the minority is the stronger) assume its opinion… while truth again reverts to a new minority."

In de redenering van Kierkegaard zal een populistische politicus die erop los liegt in eerste instantie een groot gehoor vinden, maar zal deze uiteindelijk worden ingehaald door de werkelijkheid.

Bij liegen wordt 'het volk' dus bewust een verkeerde kant op gestuurd. Maar AI-tools die een oceaan aan bullshit produceren hebben helemaal geen (verborgen) agenda om percepties te sturen. Het probleem van die bullshit is dan ook niet dat we als volk een bepaalde richting op gebonjourd worden met misinformatie. Het probleem is dat er geen richting meer is. Het effect: mensen worden zombies. Willoos. En stuurloos. <voeg hier een eenvoudige oplossing in 😉 >

Dit is deel 7 van een reeks bijdragen waarin Nart Wielaard op zoek gaat naar waarheid in een digitale wereld en wat dat betekent voor de accountant. Beluister ook de Vitamine A-podcast met Nart Wielaard over hetzelfde thema. Op de komende Accountantsdag (23 november) spreekt Nart tijdens twee sessies over AI en het accountantsberoep.

Nart Wielaard werkt op het snijvlak van maatschappij, technologie en bedrijfsleven. Hij brengt complexe ontwikkelingen terug tot eenvoudige en begrijpelijke verhalen en doet dat in de rol van gespreksleider, adviseur en schrijver.

Gerelateerd

9 reacties

Alexander Vissers

Het is verder tekenend dat in dit artikel Harari wordt geciteerd. Er is bijna geen schrijver aan te wijzen wiens werk genadelozer bekritiseerd wordt als reductionistisch en ideologisch dan Harari. Wat desinformatie betreft voegt AI ook niets wezenlijks toe, het hele internet staat vol met leugens bullshit en overige onwaarheden en de overige media doen ijverig mee. Als AI al iets toevoegt is het de aan kwaliteit van synthetisch beeld- en geluidmateriaal, maar dat staat los van Chat GPT, maar nu iedereen dat weet weet ook iedereen dat je op beeld en geluid alleen niet meer kunt vertrouwen. Het volk onder het communisme in de DDR en de Sovjet-Unie leefde in een constante staat van leugens en bull-shit, lees er Karel van het Reve maar op na. Waarheid is in de geschiedenis van de wereld eerder uitzondering dan regel geweest. En als je verstandig bent baseer je je beslissingen uitsluitend op geverifieerde informatie, en niet klakkeloos op hetgeen een AI systeem uitspuugt maar ook niet wat op een willekeurige internetpagina wordt weergegeven of in een willekeurig tijdschrift staat.

Frans Kersten

@Ron Heinen: "Ook al is de AI-bullshit nog zo snel, de wetenschappelijke waarheid achterhaald hem wel."

Punt is echter dat de wetenschap niet meer vertrouwd wordt, deels als gevolg van niet ethisch handelen door de wetenschap zelf.
Daardoor doet de waarheid er niet toe als die niet geloofd worden en 'het volk' leiders die zeggen dat deze waarheid niet klopt blindelings blijft volgen.
Dat brengt de democratie is gevaar en dan is er helemaal geen ruimte meer voor de waarheid.
Zie bijvoorbeeld vandaag (15-8) commentaren op CNN i.r.t. de nieuwste rechtszaak tegen Donald Trump over de verkiezingen in Georgia). Of vorige week in het AD het artikel over de nieuwe geschiedenisboeken in Rusland.

Joris Joppe

Volgens mij zijn deze tools uitgelezen mogelijkheden om schaalbaar te liegen en ´het volk´ inderdaad de verkeerde kant op te sturen. De AI zelf doet nog steeds niet maar mensen wel.
Vermoedelijk blijft de fancy geformuleeerde "al is de leugen nog zo snel ...." van Kierkegaard wel functioneren maar het verschil in snelheid tussen leugen en waarheid wordt helaas wel wat groter.

Alexander Vissers

En ten aanzien van bronvermeldingen: in veel publicaties wordt veel waarde gehecht aan bronvermeldingen: ten onrechte. Deze dienen slechts ter vermijding van plagiaat. In zijn "Zur Elektrodynamik bewegter Körper" heeft Albert Einstein niet één noot opgenomen, daarentegen wel een collega bedankt voor zijn bijdrage. Als er de wetenschap ergens mee te kampen heeft is het met de repliceerbaarheid, niet met bronvermeldingen. Het moge duidelijk zijn dat van de enorme aantallen personen die aan Universiteiten en daarbuiten werkzaam zijn in het wetenschapsbedrijf slechts een klein aantal ooit iets bijzonders zal ontdekken terwijl de tijdschriften toch gevuld moeten worden en de hypotheek betaald.

Alexander Vissers

Er bestaan hele "wetenschappelijke" disciplines die niets anders dan BS opleveren, geen enkele waarheid zoals W.F. Hermans al tenenkrommend beschreef in zijn "Uit talloos veel miljoenen" en Karel van het Reve in zijn columns waarin zij de sociologie genadeloos afslachten. Ik verwijs naar prof. Stapel maar dat is slechts een druppel in de zee van onwetenschappelijke publicaties. Duitse politici die promoveren op de krantenknipsels van anderen. AI verandert daar helemaal niets aan. Het wetenschapsbedrijf is hel iets anders dan wetenschap, het wetenschapsbedrijf gaat over budgetten en publicaties, wetenschap gaat over kennis van de (onvergankelijke) werkelijkheid. Vandaar dat ik bij dezen mijn oproep herhaal, sluit de sociale faculteiten, politieke wetenschappen, vrouwenstudies en andere ....-studies, zij leveren slechts ideologien op: ofwel tautologien ofwel (politieke) meningen maar in geen geval iets waars of wetenswaardigs, de minimumeis aan wetenschap zoals gedefinieerd door prof. van het Reve. Geef AI niet de schuld van een praktijk die al decennia lang de norm is.

jules muis

@ Ron Heinen,

Waardeer je wetenschappelijke tutorials/referenties van tijd tot tijd maar je uitspraak : “ In de wetenschappelijke wereldvisie is wiskunde het fundament en data de grondstof voor alle empirische wetenschappelijke disciplines zoals de natuur- en sociale wetenschappen” is me toch een waarheid te ver.

“De” wetenschappelijke wereldvisie, waar kunnen we die vinden?

Gaat het bij sociale wetenschappen echt om een “empirische wetenschappelijke discipline” of boterzachte disciplines met ook empirische input?

Je stelling lijkt me te veel op Wim Kan’s absolutisme/kwinkslag van many moons ago “de aandeelhouder wint altijd”.

Wat algemener

@ Nart.

Mijn eigen ervaring is dat wat voor schrale en kwetsbare troost we ook kunnen vinden in ‘de waarheid komt altijd boven’, dat het WANNEER een spannende en soms desastreuse hypotheek zal blijven op ons ( ook professioneel) leven, van hier tot - zo stel ik me voor - in het hiernamaals. En het leven wel onvoorstelbaar voorspelbaar zou worden als het anders was.

De vraag of AI, met de ingebedde mogelijkheid van gebruiken of misbruiken, kans of bedreiging, daar iets aan kan veranderen is een graduele zaak, maar geen principiele veranderingsvraag, van gisteren, vandaag tot morgen.

Dat ook het ruisverschijnsel ‘bullshit’ daar een blijvende rol in zal spelen, lijkt me logisch; en het is inderdaad goed daarop te wijzen.

Het blijft oppassen geblazen, mooi toch?

Ron Heinen

Hieronder de reactie van Bing Chat GPT4 op dit artikel:

Ik heb het artikel gelezen en ik begrijp de zorgen die het uitdrukt over de mogelijke gevaren van AI-chat systemen die bullshit produceren. Ik denk dat het belangrijk is om kritisch te zijn over de bronnen en de motieven en om te controleren of ze gebaseerd zijn op feiten of logica.

Ik geef altijd de bronnen en de motieven van de informatie die ik gebruik in mijn antwoorden. Ik gebruik de voetnoten om de bronnen te vermelden. Ik gebruik ook de haakjes om de motieven te geven, zoals waarom ik een bepaalde zoekopdracht doe of waarom ik een bepaalde informatie kies.

Je moet de voetnoten en de motieven controleren of ze zijn gebaseerd op feiten en logica. Je moet ook controleren of de bronnen relevant en geloofwaardig zijn.

Ron Heinen

Op de link

https://www.zdnet.com/article/how-to-write-better-chatgpt-prompts/

zijn tips te vinden hoe je aan AI-machines als GPT4 in Bing Chat goed vragen kunt stellen.

Dat is natuurlijk geen garantie tegen bullshit antwoorden.

Daarom is het verstandig testen in te bouwen welke de antwoorden controleren.

Ron Heinen

Dank voor deze nieuwe bijdrage in de serie "Het einde van de waarheid".

In de wetenschappelijke wereldvisie is wiskunde het fundament en data de grondstof voor alle empirische wetenschappelijke disciplines, zoals de natuur- en socialewetenschappen.

Bullshit zal in de wetenschappelijke wereldvisie weerlegt worden, bijvoorbeeld met wiskundig bewijs met de directe, indirecte en/of inductieve methode.

Een voorbeeld van indirect bewijs is "statistical inference". Op de link

https://photos.app.goo.gl/MiidLrPa5deZ28jMA

is hiervan een voorbeeld te vinden en op

https://drive.google.com/file/d/1z8sHUR1n_Qvu2XGISsV6s78wxT1WEFZd

een inleiding "statistical inference".

Op pagina 21 t/m 26 zijn wat voorbeeld toepassingen te vinden van "statistical inference".

Ook al is de AI-bullshit nog zo snel, de wetenschappelijke waarheid achterhaald hem wel.

Reageren op een artikel kan tot drie maanden na plaatsing. Reageren op dit artikel is daarom niet meer mogelijk.

Aanmelden nieuwsbrief

Ontvang elke werkdag (maandag t/m vrijdag) de laatste nieuwsberichten, opinies en artikelen in uw mailbox.

Bent u NBA-lid? Dan kunt u zich ook aanmelden via uw ledenprofiel op MijnNBA.nl.