Nart Wielaard

The future of code is no code. Het zijn de woorden van Chris Wanstrath, voormalig ceo van ontwikkelaarsplatform GitHub. In 2017 verwees hij al naar het ultieme gemak waarmee iedereen met een laptop nieuwe applicaties kon ontwikkelen en bracht daarover een debat op gang. Hij had een vooruitziende blik, al had hij destijds waarschijnlijk niet kunnen bevroeden welke dominante rol AI daarin zou gaan spelen. Anno 2026 spreken we niet meer over Low Code No Code-platforms, maar is de kans groot dat u op zijn minst wat heeft gelezen over het fenomeen Vibe Coding. Dat is in feite de volgende stap in het gebruiksgemak voor programmeurs: iedereen kan zelf programma's schrijven, eigenlijk simpelweg door in natuurlijke taal te vertellen wat je wilt dat het programma voor je doet. AI gaat dan aan de slag en neemt je stap voor stap mee. Het is de ultieme democratisering van het programmeren.

'Zoals bijna altijd het geval is met nieuwe technologie, is er ook een wat minder mooie kant.'

Dat is geweldig nieuws. Maar zoals bijna altijd het geval is met nieuwe technologie, is er ook een wat minder mooie kant. Een kant die overigens door experts in 2017 ook al werd opgemerkt bij de opkomst van de Low Code No Code (LCNC) platforms. Want als (bijna) iedereen alles kan programmeren, kan iedereen dan ook goed omgaan met de risico's van de programma's die ze ontwikkelen? Als we deze nieuwe weg inslaan, zijn daar net als in de oude situatie immers ook regels, snelheidsbeperkingen, vangrails en verkeersborden nodig. De vraag is: hebben we die voldoende?

Beheersbaarheid

De vraag is zeer opportuun, nu we in rap tempo de volgende fase van AI in gaan. Aanvankelijk gebruikten veel mensen de bekende Large Language Models (LLM) vooral om antwoorden op vragen te krijgen. Steeds meer gebruikers zien nu in dat er ook veel waarde zit in het programmeren van eigen AI-agents. Deze agents geven niet alleen antwoorden, maar voeren ook zelf opdrachten uit of nemen complete processen over. Je hoeft geen ziener te zijn om te begrijpen dat er dan heel andere risico's een rol spelen en dat dergelijke agents vragen om adequate governance. Een professionele programmeur is zich daarvan bewust, maar zijn de miljoenen nieuwe vibe coders dat ook?

Alleen al de omvang van deze populatie leidt tot uitdagingen in de beheersbaarheid.  IDC Research voorspelde eind 2025 dat er in 2028 1,3 miljard agents zullen zijn; in allerlei soorten, want een kant-en-klare definitie bestaat eigenlijk niet. Nu heeft deze industrie naast veel creativiteit met nieuw jargon ook een wat manische focus op grote getallen, maar zelfs als het een factor tien minder blijkt te zijn, is het nog steeds heel veel.

Shadow AI

Hoe dan ook, de democratisering van het programmeerwerk brengt risico's met zich mee, ook al omdat er vaak tooling wordt gebruikt die niet (expliciet) is goedgekeurd voor gebruik. Uiteraard zijn onderzoekers zich bewust van dit fenomeen en bestaat  ook hiervoor al nieuw jargon: shadow AI.

'Shadow AI gaat over platforms of tools die worden gebruikt in organisaties, maar die officieel niet zijn toegestaan.'

Het is de opvolger van de shadow IT, de term die al jaren in gebruik is voor IT die niet op de toegestane lijst van bedrijven staat, maar niettemin door medewerkers (stiekem) wordt gebruikt. Shadow AI gaat over platforms of tools die (volop) worden gebruikt in organisaties, maar die officieel niet zijn toegestaan.

Microsoft schat op basis van een onderzoek onder 1.700 security professionals in dat ongeveer een derde van alle medewerkers dergelijke toepassingen gebruikt. Dat is op zich natuurlijk heel menselijk: als u met een bepaalde tool heel veel (tijd)winst kunt boeken maar het staat op de verboden lijst, dan is dat frustrerend en ook aanlokkelijk om het toch te doen. Denk bijvoorbeeld aan hoe u vroeger, tegen de bedrijfsvoorschriften in, Dropbox of WeTransfer gebruikte en daarbij wellicht dacht dat dat toch echt geen kwaad kon: die reflex speelt nu voor allerlei AI-tools.

Risico's

De risico's zijn even divers als de toepassingsgebieden en spelen zeker ook in de wereld van de zakelijke dienstverlening een rol. Een eenvoudig voorbeeld - waarvan nog niet eens sprake is, vibe coding - is dat een handige junior in uw team een gespecialiseerde app gebruikt om de notulen van een bespreking met een cliënt samen te vatten en te voorzien van een actielijst. Desnoods op de privécomputer, als het in de professionele omgeving wordt geblokkeerd.

'Als de junior denkt dat het uploaden van een geanonimiseerde variant voldoende waarborgen biedt, dan zit hij of zij ernaast.'

Het worst case-scenario is dat de beveiliging bij dat bedrijf een paar maanden later niet op orde blijkt te zijn. Maar ook als er geen hacks plaatsvinden, kan het fout gaan. Als de junior denkt dat het uploaden van een geanonimiseerde variant voldoende waarborgen biedt, dan zit hij of zij ernaast. Ook dan is namelijk vaak nog te herleiden op welke organisatie de informatie betrekking heeft en ook dan bega je daarmee als accountantskantoor een regelrechte overtreding van wet- en regelgeving.

Een wat intelligenter voorbeeld is het zelf ontwikkelen van een AI-agent die bestanden van een klant op bepaalde patronen of events doorzoekt. Dat was vroeger een ingewikkelde operatie, maar is nu tamelijk frictieloos mogelijk. Je hoeft vaak geen software te installeren en kunt het gewoon via je browser benaderen. Juist omdat het zo onschuldig oogt, is de psychologische drempel om data te uploaden naar een externe server laag: je hebt zelfs amper door dat er data wordt verplaatst.

Kwade bedoelingen

Bovendien kan het ook op een andere manier misgaan met –-excuus voor nog meer jargon - zogeheten prompt injections waardoor agents zich tegen je gaan keren. Niet omdat die agent dat wil - een agent heeft geen eigen wil - maar omdat kwaadwillenden van buitenaf die agent met die instructies tot kwade bedoelingen kunnen bewegen. Onder meer hier kunt u desgewenst meer lezen over dergelijke risico's.

Wie denkt dat het allemaal niet zo'n vaart zal lopen en dat de meeste medewerkers zich toch echt wel bewust zijn van deze en andere gevaren en daarom hun hobbyisme weten te beheersen: Deloitte Australië heeft onlangs medewerkers na interne signalen erop gewezen dat ze de goedgekeurde interne tools moeten gebruiken in plaats van andere publieke spullen. Het bericht suggereert dat zelfs het basisprincipe van een LLM nog niet vanzelfsprekend is voor menig medewerker: dat een LLM geen zoekmachine is die informatie voor je zoekt, maar een verwerker die informatie opslaat en transformeert. Waarvan akte.