Nart Wielaard

Wie wat vaker iets van mij leest, weet dat ik een believer ben als het gaat om de waarde van AI, al denk ik dat de echte waarde ervan nog moet komen. Maar ik volg welbewust ook de bijdragen van een aantal critici; mensen die er veel meer vanaf weten dan ik. Cognitief wetenschapper Gary Marcus bijvoorbeeld, die al sinds 2019 spreekt van een maatschappelijke gullibility gap: een kloof tussen wat mensen denken dat AI kan en wat het werkelijk doet. Hij doet dat vanuit diepgaande kennis van AI zelf, maar maakt ook interessante uitstapjes buiten de technologie.

'Wie binnen organisaties met veel enthousiasme vertelt over de mogelijkheden van een nieuw concept, krijgt weinig lastige vragen.'

Een van de zaken waar hij op wijst is dat wie grote dingen belooft, vrijwel nooit echt verantwoordelijk wordt gehouden. Dat gebeurt in Silicon Valley in het groot, maar het wonderlijke is dat dit patroon ook is te zien in het klein. Wie binnen organisaties met veel enthousiasme vertelt over de mogelijkheden van een nieuw concept, krijgt weinig lastige vragen. Wie twijfelt, juist wel.

FOMO

We zouden dit kunnen afdoen als een klassiek geval van FOMO, fear of missing out. Maar er is meer aan de hand. In het klassieke geval van FOMO ben je bang om een leuk feest te missen en ga je toch mee, ook al heb je geen zin.  Maar rondom de AI-hype is er een nieuwe vorm aan het ontstaan: FOMO met de turbo erop. Niet alleen ga je toch mee naar het feestje, je gaat zelf ook enthousiast andere geesten warm maken omdat je bang bent om anders door je vrienden als saai te worden gezien. Zelfs als je vrijwel zeker weet dat dat feestje behoorlijk gaat tegenvallen (en die tegenvallers zijn in het geval van de adoptie van AI tamelijk zichtbaar).

Hoe zit dit? Sociologen blijken te spreken over pluralistische onwetendheid. Wat dat inhoudt: iedereen twijfelt aan de nieuwste AI-tool, maar omdat niemand die twijfel hardop uitspreekt, concludeert iedereen dat zij de enige twijfelaar zijn. Het resultaat is een collectieve consensus die niemand werkelijk deelt, maar die ook niemand durft te doorbreken.

Solomon Asch demonstreerde dit in de jaren vijftig van de vorige eeuw, door te laten zien dat mensen hun eigen waarneming terzijde schuiven, als de druk vanuit de omgeving hoog genoeg is. Naar verluidt maakte hij zich ernstig zorgen over die menselijke weeffout: "That intelligent, well-meaning young people are willing to call white black, is a matter of concern."

Durven uitspreken

De conclusie is dus duidelijk: we hebben mensen nodig die zich durven uitspreken, als iedereen in de vergaderruimte een wit koffiekopje zwart noemt.

'Spreken voelt riskant aan voor je volgende loopbaanstap, enthousiast meedoen met de collectieve opvatting schraagt de carrièrekansen juist.'

Daar zit juist het probleem, zo blijkt: we laten ons niet alleen beïnvloeden door die meningen, maar durven ons ook niet uit te spreken. Morrison en Milliken beschreven dat fenomeen in 2000 als organizational silence: de systematische neiging van medewerkers om zorgen te verzwijgen uit vrees voor negatieve repercussies. Spreken voelt riskant aan voor je volgende loopbaanstap, enthousiast meedoen met de collectieve opvatting schraagt de carrièrekansen juist. In economentaal: de kosten van twijfel zijn hoger dan de kosten van meedoen. En dus kies je enthousiast voor dat laatste.

Dit fenomeen is niet nieuw. Maar in de huidige tijd, waarin het evangelie van de digitale transformatie dominant is, is de reflex wel erg sterk. Er is sprake van een cultuur waarin je als serieuze professionals een early adopter bent die de growth mindset omarmt en niets liever doet dan move fast and break things. In zo'n cultuur steek je niet je hand op om te vragen waarom een bepaalde investering in technologie wordt gedaan. Je steekt hem op om duidelijk te maken dat ook jij in de frontlinie meedoet. 

Marketingclaims

Dat is een serieus probleem: leiders springen dan in de technologie zonder de kosten, uitdagingen of beperkingen te begrijpen. Bovendien, zoals Gary Marcus al vaststelde: de accountability voor mislukkingen is vaak afwezig. Een investering in technologie die niets oplevert, wordt binnen een paar weken vergeten en opgevolgd door het volgende enthousiaste narratief. Arvind Narayanan, een van de auteurs van het boek AI Snake Oil, betoogt dat het onderscheid tussen AI die werkt en AI die simpelweg niet werkt in de praktijk verdwijnt, onder de voortdurende ruis van marketingclaims.

'Waar het om gaat, is dat de geschetste menselijke weeffouten bestaan en dat we er dus scherp op moeten zijn.'

Is het bovenstaande een te cynisch beeld van de werkelijkheid? Dat zou best kunnen en er zijn natuurlijk wel degelijk boardrooms waar goed afgewogen beslissingen worden genomen. Waar het om gaat, is dat de geschetste menselijke weeffouten bestaan en dat we er dus scherp op moeten zijn. Die weeffouten zelf kunnen we niet veranderen, maar wat we wel kunnen doen: altijd op zoek gaan naar hard bewijs dat een bepaalde technologie ook echt werkt. Wat weerstand inbouwen op basis van feiten.

Tot slot. Oh ironie. Een van de beloftes van AI is dat deze technologie ons gaat helpen beter te redeneren. De geschetste sociale dynamiek zorgt juist voor het tegenovergestelde, als het gaat om besluitvorming over investeringen in AI. Maar daar kunnen we AI niet de schuld van geven…