Nart Wielaard

Zodra onderzoekers van Gartner Research een onderwerp als een belangrijke nieuwe ontwikkeling promoten, is het vaak zaak om goed op te letten. Dat was ook het geval toen het bureau dit najaar een rapport publiceerde over een nieuw begrip: context engineering. De analyse kreeg wel een wat merkwaardige titel mee: Context engineering is the new prompt engineering. Dat is eigenlijk zoiets als 'wit is het nieuwe zwart', want het verschil tussen beide begrippen kan haast niet groter zijn.

Niettemin verdient het onderwerp context engineering de aandacht van iedereen die wil begrijpen hoe AI impact krijgt op onze wereld. Maar wat is context engineering? In een sterk versimpelde voorstelling zouden we het als volgt kunnen zien:

Prompt engineering is tegen een kind zeggen: "Bouw een toren met deze houten blokken en probeer deze zo hoog mogelijk te maken."

Context engineering is alles daaromheen regelen: dat het kind geen lijm mag gebruiken bij het bouwen, dat het kind moet stoppen als het gezin gaat eten, dat het de toren op de vloer moet bouwen omdat die geen krassen mag maken op de dure tafel en (wellicht nog het belangrijkste element) dat het kind moet leren van eerdere pogingen.

Rap tempo

Het is goed om beide begrippen te zien in het licht van de ontwikkeling van AI. Dat het rap gaat met deze technologie, zal niemand zijn ontgaan. Los van alle nieuwe modellen en tools die elkaar in rap tempo opvolgen, is de grootste revolutie waarschijnlijk de opkomst van agentic AI. Andrej Karpathy, medeoprichter van OpenAI en daar jarenlang verantwoordelijk voor deep learning en AI-onderzoek, knipte het handzaam op in twee fasen.

'Los van alle nieuwe modellen en tools die elkaar in rap tempo opvolgen, is de grootste revolutie waarschijnlijk de opkomst van agentic AI.'

De eerste fase is wat we tegenwoordig steeds vaker vibe-coding noemen. Dat lijkt nog op het huis-tuin-en-keuken gebruik van AI, waarbij mensen de AI-modellen instrueren via prompts.  Vibe coding is eigenlijk de allereenvoudigste manier van programmeren die er is, in natuurlijke taal. En met goede prompt engineering kom je dan een heel eind om je doelen met AI te bereiken.

Fase 2 is in essentie veel spannender en heeft meer impact op de wereld: Agentic AI gaat om systemen waarin agenten zelfstandig taken uitvoeren. Het verschil met fase 1 is dat agentic AI niet alleen een mooi plaatje, een marketingidee of een wervende tekst voor je e-mail aan een klant kan opleveren, maar ook in staat is om complete plannen te maken, beslissingen te nemen en samengestelde processen uit te voeren. In deze fase is AI dus meer dan een leuke tool. Het wordt dan een systeemtechnologie en daarmee wordt het essentieel om met context engineering dat systeem te optimaliseren.

Consistent

Wat dan vooral nodig is: zorgen dat AI consistent (niet eenmalig, maar altijd) de goede dingen doet. Dat vergt dus een goed begrip van de context - hoe hangen de taken samen en wat zijn randvoorwaarden die impact hebben. Mensen kunnen dat meestal vrij goed - het kind dat met de blokken aan de slag gaat begrijpt (en onthoudt) dat er geen lijm mag worden gebruikt en realiseert zich waarschijnlijk ook waarom het de vorige keer mis ging. Een AI-agent heeft dat besef niet en zou - in overdrachtelijke zin - zomaar op zoek kunnen gaan naar een pot lijm. In sommige gevallen is dergelijke 'drift' een goed idee, in andere gevallen zal het zeer ongewenst of zelfs gevaarlijk zijn.

'Goede context engineering kon wel eens de heilige graal zijn om deze tweede fase van AI met vertrouwen in te gaan.'

Goede context engineering kon wel eens de heilige graal zijn om deze tweede fase van AI met vertrouwen in te gaan. In elk geval zijn veel marktpartijen ernaar op zoek. Voor Anthropic, de maker van Claude, is het ook een centraal aandachtspunt. Dat is begrijpelijk aangezien juist dit bedrijf inzet op fase 2 - het aanpakken van hele processen met AI - en daarmee de laatste maanden ook opeens de juiste vibe te pakken krijgt in de tech scene. In haar eigen analyse geeft het bedrijf aan dat het gaat om het vinden van een gulden middenweg in hoe specifiek taken voor agents worden gedefinieerd. Die gulden middenweg, daar lijken echter nog geen eenvoudige succesrecepten voor. Precies daarom levert agentic AI - waar meerdere agents samenwerken aan een proces - momenteel nog vooral veel proeftuinen op, maar veel minder volwassen toepassingen.

Hoe dan ook: Context engineering lijkt geen nieuwe AI-hype, maar een noodzakelijk concept om de volgende fase van AI waar te maken. Wilt u er meer over lezen? Een wetenschappelijk paper vindt u hier. En dit is een aanrader voor een wat makkelijker leesbare analyse.