Context engineering is het werk van een AI-model de juiste informatie geven, in de juiste hoeveelheid, op het juiste moment. Een large language model weet alleen waar het op getraind is, plus wat jij in de prompt zet. Context engineering bepaalt wat in die prompt terechtkomt, zodat het antwoord gebaseerd is op echte, relevante feiten en niet op giswerk.
Zie het als een scherpe nieuwe freelancer briefen voor een vergadering. Geef je hem de hele archiefkast, dan verdrinkt hij; geef je hem niets, dan improviseert hij maar wat. Geef je hem de drie documenten die er voor deze klant echt toe doen, dan klinkt hij als een expert. Met het model is het net zo. Stel dat een supportbot een vraag over een terugbetaling krijgt. Goede context engineering haalt de bestelling van die klant en het huidige retourbeleid erbij en laat de andere 400 ongerelateerde pagina’s weg. De kunst is die paar juiste stukken selecteren, wat nauw samenhangt met prompt engineering, maar dan gericht op de informatie in plaats van op de bewoording. In gebouwde systemen worden de relevante fragmenten vaak automatisch opgehaald via retrieval.
Het telt omdat elk model een beperkt contextvenster heeft, en het vullen met ruis verlaagt de kwaliteit en verhoogt de kosten. Er is nog een valkuil. Oude of tegenstrijdige documenten in de context kunnen het model naar een fout maar zelfverzekerd antwoord trekken, dus een deel van het werk is het bronmateriaal schoon en actueel houden. Strakke, relevante context is wat een AI-functie die betrouwbaar aanvoelt onderscheidt van eentje die gaat hallucineren.
Bij TopDevs zien we context engineering als een kernonderdeel van elke AI-bouw: we kiezen precies welke bedrijfsdata het model bereikt, zodat antwoorden accuraat en to the point blijven.