Artificiële intelligentie

Het einde van de waarheid: Op zoek naar tegengif

Wie zoekt naar waarheid in een wereld vol digitale vervalsingen, heeft nieuwe hulpmiddelen nodig. Wat voor instrumenten zijn er, of zijn in ontwikkeling? Eerst de nieuwe opties voor het 'waarmerken' van content.

Nart Wielaard

Een cartoon in The New Yorker, 1993. Een hond zit op een bureaustoel achter een computer. Onderschrift: On the internet, nobody knows you're a dog. Deze beroemde cartoon legde in de beginjaren van het internet de risico's van de infrastructuur van internet krachtig bloot. De kernvraag: Weet je eigenlijk wel met wie je te maken hebt online? Dertig jaar later is deze vraag nog veel belangrijker, nu we in ons persoonlijke en professionele leven voor zo'n beetje alles vertrouwen op digitale middelen. En wie (enige) zekerheid wenst over de 'waarheid' van informatie, zou op zijn minst meer moeten weten over de herkomst ervan.

Foto injectiespuit

'Wie (enige) zekerheid wenst over de 'waarheid' van informatie, zou op zijn minst meer moeten weten over de herkomst ervan.'

In vaktermen spreken we over provenance, oftewel de herkomst. Zou het niet geweldig zijn als we bij elk digitaal bestand - een rapport, een foto, een video of wat dan ook - heel eenvoudig die provenance konden checken? Net zoals je bij aankoop van kunst een echtheidscertificaat krijgt? Of zoals een bankbiljet een watermerk heeft?

Wapenwedloop

Voor accountants zou dat geweldig zijn, want het beroep heeft nieuwe wapens nodig in de strijd tegen valse informatie. "De digitale hulpmiddelen om vervalsingen te maken worden op rap tempo steeds beter", stelt Edo Roos Lindgreen, hoogleraar Data Science in Auditing aan de Universiteit van Amsterdam. "En dus moet de accountant zich ook beter gaan wapenen om valse informatie te herkennen. Je zou het als een wapenwedloop kunnen zien."

Roos Lindgreen verwacht precies daarom dat er de komende jaren veel aandacht komt voor nieuwe forensische concepten en technieken onder accountants, in zowel de praktijk als in opleidingen. Accountants hoeven daarbij het wiel niet opnieuw uit te vinden, want ze zijn bepaald niet de enige partij die belang heeft bij fundamentele oplossingen op dit punt. En de hulp kan ook uit onverwachte hoek komen.

Consortium

Een mooi voorbeeld is Adobe, notabene bekend van Photoshop, het vleesgeworden symbool van beeldenmanipulatie; van het creëren van een wat smallere taille tot het wegpoetsen van ongewenste personen op een foto. De ironie wil dat juist dit technologiebedrijf de trekker is van een consortium dat zich, samen met onder meer grote mediabedrijven, makers van camera's en grote techbedrijven richt op authenticiteit.

Het idee van dat consortium is simpel: Voeg extra metadata toe aan foto's en video's met onder meer de naam van de maker, de tijd en de datum van het maken van het beeld. Leg daarbij ook vast als er met software bewerkingen worden gedaan. Beveilig deze informatie zodat kwaadwillenden deze niet ongemerkt kunnen bewerken. En maak deze informatie met een eenvoudig symbooltje zichtbaar op het beeld, zodat je als gebruiker zelf kunt bepalen of je het beeld kunt vertrouwen.

In de simpelste vorm: Als een beeld is bewerkt, staat het 'stoplicht' op oranje en kun je met een simpele muisklik nagaan welke bewerking er plaatsvond. Het succes van het consortium - Content Authenticity Initiative (CAI) - hangt onder meer af van een gezamenlijke standaard. Die is er in elk geval, in de vorm van de open standaard C2PA. Hoopgevend is ook dat het bepaald niet de minste partijen zijn die zich achter het nog jonge initiatief (2019) scharen, van de BBC tot Microsoft tot camerafabrikant Canon, die een aantal camera’s voorzien heeft van specifieke technologie voor het concept.

WordProof

De vraag is echter: Kan het in de praktijk tractie krijgen? De demo's zien er gebruiksvriendelijk uit, maar trekt de gemiddelde internetter zich iets aan van het 'waarmerk'? Op die vraag heeft Sebastiaan van der Lans desgevraagd een intrigerend antwoord. Van der Lans is initiatiefnemer van WordProof, een Amsterdamse startup die content op internet van een timestamp voorziet. Het concept lijkt wel wat op de aanpak van het CAI: Gebruikers kunnen met de timestamp eenvoudig de herkomst van content raadplegen. Waar werd deze voor het eerst gepubliceerd? Wat is er sindsdien gewijzigd en wanneer? Welke auteur heeft het gemaakt?

'De demo's zien er gebruiksvriendelijk uit, maar trekt de gemiddelde internetter zich iets aan van het 'waarmerk'?'

Onder meer dagbladuitgever DPG heeft een pilot met de technologie gedaan. De ervaring: "Het klopt dat veel gebruikers gaan voor gemak en helemaal niet letten op de timestamp. Dat hoeft ook niet. Wij vinden dat juist zoekmachines en social media op basis van de provenance resultaten moeten tonen en rangschikken. Zoekmachines als Google zijn gebaat bij het bieden van betrouwbare informatie. Wij bieden hen de timestamp in de taal die ze begrijpen, en verwachten dan ook dat zij de timestamp mee gaan nemen in de algoritmes die de zoekresultaten rangschikken. Het effect daarvan: Onzin gaat dan niet langer snel viral."

Falsehood flies and truth comes limping after it. WordProof gebruikt - in tegenstelling tot CAI - blockchain als onderliggende technologie. Bij het schrijven van een artikel wordt er een hash op de blockchain gezet die - vanwege de decentrale architectuur van blockchain - nooit kan worden veranderd. Dit is precies waar de ontwikkeling van blockchain als 'waarheidsmachine' voor is bedoeld, zoals uitstekend geanalyseerd door Michael Casey.

Nieuwsgierig blijven

Ook dit initiatief staat nog in de kinderschoenen, maar dat weerhoudt van Der Lans, blockchain adept van het eerste uur, er niet van om met andere concepten aan de slag te gaan die dichterbij de wereld van accountants liggen.

Een voorbeeld: Stel dat een gemeente of belastingdienst timestamps van rapporten vastlegt op het EOS.IO protocol. En je wilt als accountant tijdens je controle weten of je met een authentiek rapport te maken hebt. Dan kun je drag and drop dat rapport naar een applicatie slepen en heb je direct een antwoord op die vraag. Ook hier geldt: Het is nog in ontwikkeling (Van der Lans voert er gesprekken over), maar het is wel een bijzonder interessante ontwikkeling.

Roos Lindgreen – naar eigen zeggen juist geen believer in blockchain concepten met uitzondering van bitcoin – doet dan ook een oproep aan het vak: "Vooral nieuwsgierig blijven naar nieuwe concepten. Nog beter: samen met andere partijen aan de wieg ervan staan."

Dit is deel 3 van een reeks bijdragen waarin Nart Wielaard op zoek gaat naar waarheid in een digitale wereld en wat dat betekent voor de accountant. Beluister ook de Vitamine A-podcast met Nart Wielaard over hetzelfde thema. 

Nart Wielaard werkt op het snijvlak van maatschappij, technologie en bedrijfsleven. Hij brengt complexe ontwikkelingen terug tot eenvoudige en begrijpelijke verhalen en doet dat in de rol van gespreksleider, adviseur en schrijver.

Gerelateerd

7 reacties

Ron Heinen

Om een indicatie te geven van de vooruitgang stelt OpenAI dat GPT-4 zelfs bij de beste 10% scoort in een gesimuleerd toelatingsexamen voor advocaten, terwijl de voorganger van het model GPT-3.5 bij de onderste 10% bleef steken.

In de rechtszaal dien je dus op je hoede te zijn voor juridische bewijzen gegeven door GPT-4, zie ook het voorbeeld in m'n eerdere reactie.

Het gegeven voorbeeld in m'n vorige reactie is een illustratie dat een bewijs gebaseerd op een meer fundamentele wetenschapsdiscipline een bewijs gebaseerd op een minder fundamentele wetenschapsdiscipline overruled.

Dus een correct wiskundig bewijs overruled een correct juridisch bewijs, ook als deze gegeven is door GPT-4 welke scoort bij de beste 10% advocaten.

Ron Heinen

Citaat: "...Hij brengt complexe ontwikkelingen terug tot eenvoudige en begrijpelijke verhalen...".

Wanneer we met een wetenschappelijke blik naar de wereld kijken, dan zien we dat alle wetmatigheden in deze wereld op een hierarchische manier aan elkaar gekoppeld zijn, zie bijvoorbeeld fig.2 in http://www.scirp.org/journal/PaperDownload.aspx?paperID=92289

Dit is bekend in de wetenschap als een specificatie hiërarchie, zie https://www.isko.org/cyclo/integrative_levels voor een algemene
uitleg.

Je kunt deze hiërarchie van wetmatigheden op verschillende manieren afleiden en wetenschappelijk bewijzen. Een van bewijzen van deze hiërarchie is te vinden in "Towards a consensus map of science" op https://onlinelibrary.wiley.com/doi/epdf/10.1002/asi.20991.

In geval van tegenstijdigheden overrulen meer fundamentele wetmatigheden de hoger gelegen wetmatigheden in deze hierarchie.

Dit is de transitieve eigenschap van een specificatie hierarchie, zie
https://www.isko.org/cyclo/integrative_levels#3.2

Voorbeeld: Als een correct wiskundig bewijs geleverd wordt in een rechtszaal dat een ingebracht juridisch feit niet waar is of kan zijn, dan zal een goede rechter dit feit niet als juridisch bewijs accepteren.

Op deze manier kun je complexe ontwikkelingen vaak eenvoudig analyseren en begrijpen.

Ron Heinen

Quote: "...Hij brengt complexe ontwikkelingen terug tot eenvoudige en begrijpelijke verhalen..."

Als je met een wetenschappelijke wereldvisie naar de wereld kijkt dan is er een hiërarchische samenhang tussen alle wetmatigheden in onze wereld.

Dit staat bekend in de wetenschap als een specificatie hiërarchie, zie https://www.isko.org/cyclo/integrative_levels voor een algemene
uitleg.

Je kunt deze hiërarchie van wetmatigheden op verschillende manieren afleiden en wetenschappelijk bewijzen.

Een van deze bewijzen is te vinden in "Towards a consensus map of science" op https://onlinelibrary.wiley.com/doi/epdf/10.1002/asi.20991. In figuur 6 is te zien dat de formele wetenschappen aan de basis van deze specificatie
hiërarchie staan.

Conform de transitieve eigenschap van deze specificatie hiërarchie erven hogere niveaus alle wetmatigheden van de meer fundamentele niveaus, zie "3.2 Hierarchies and order relations" in https://www.isko.org/cyclo/integrative_levels

Door met deze integrale wetenschappelijke manier naar de wereld te kijken kunnen complexe situaties in hun essentie bekeken worden op een eenvoudige en wetenschappelijke manier.

Voorbeeld:

In geval van tegenstrijdigheden overrulen de formele wiskundige wetmatigheden de juridische wetmatigheden. Als er een wiskundig bewijs geleverd wordt in de rechtszaal dat iets niet waar kan zijn, zal een goede rechter dit ook niet als juridische bewijs accepteren.

Op deze manier kunnen alle wetmatigheden van deze wereld met een specificatie hierarchie met elkaar in verbinding gebracht worden, zie bijvoorbeeld ook fig.2 in http://www.scirp.org/journal/PaperDownload.aspx?paperID=92289

Nart Wielaard

Soms is het model wat minder genuanceerd maar daarover in volgende afleveringen meer. Ontwikkelingen gaan op een adembenemend tempo deze weken. Bill Gates heeft zich er ook maar eens over uitgelaten intussen en vergelijkt het met de komst van
Windows. Hij kon wel eens een punt hebben. https://www.gatesnotes.com/The-Age-of-AI-Has-Begun?

arnout van kempen

Oh maar Nart, ik twijfel daar geen seconde aan! Je weet hoe ik over je expertise denk (die schat ik extreem hoog in) en over je agenda heb ik ook geen twijfels.

Ik vond het vooral grappig dat ChatGPT best genuanceerde antwoorden geeft hierover.

Nart Wielaard

@Arnout: of ik veel expertise heb, dat mogen anderen beoordelen. Over mijn agenda kan ik zelf oordelen. Ik ben geheel vrij van (commerciële) belangen. En ik zou nooit anders willen.

Arnout van Kempen & ChatGPT

Ik vroeg ChatGPT of het uitmaakt voor de betrouwbaarheid van dit artikel of het daadwerkelijk door Nart Wielaard is geschreven. ChatGPT vond van wel:

De betrouwbaarheid van een artikel hangt niet alleen af van wie het geschreven heeft, maar ook van de inhoud en de bronnen die gebruikt zijn. Het is echter wel belangrijk om te weten wie de auteur is, omdat dit kan bijdragen aan het beoordelen van de geloofwaardigheid van het artikel. Als de auteur bijvoorbeeld bekend staat om zijn of haar expertise op het gebied van het onderwerp waar het artikel over gaat, kan dit het artikel meer gewicht geven. Ook kan het helpen om te weten of de auteur mogelijk een bepaalde agenda heeft of een belang heeft bij het onderwerp. Kortom, het is goed om te weten wie de auteur is, maar het is niet de enige factor die de betrouwbaarheid van een artikel bepaalt.

Reageren op een artikel kan tot drie maanden na plaatsing. Reageren op dit artikel is daarom niet meer mogelijk.

Aanmelden nieuwsbrief

Ontvang elke werkdag (maandag t/m vrijdag) de laatste nieuwsberichten, opinies en artikelen in uw mailbox.

Bent u NBA-lid? Dan kunt u zich ook aanmelden via uw ledenprofiel op MijnNBA.nl.