Modelcontext is het volledige geheel aan informatie dat een AI-model beschikbaar heeft als het een enkele vraag beantwoordt. Het bevat je vraag, de instructies die het kreeg, het recente heen en weer van het gesprek, en alle bestanden of data die je hebt meegegeven. Het model onthoudt niets daarbuiten. Voor elk verzoek is de context zijn hele wereld.
Een simpele vergelijking is een collega die net een vergadering binnenloopt. Hij kan alleen helpen met wat op het whiteboard staat en hardop in de ruimte wordt gezegd. Van een gesprek op de gang een uur eerder weet hij niets. Het contextvenster is de grootte van dat whiteboard, en de modelcontext is wat je er daadwerkelijk op hebt geschreven.
Een groot deel van die context is de system prompt, de vaste instructies die de rol en de regels van het model bepalen nog voor je vraag binnenkomt. De rest wordt live ingevuld: de gespreksgeschiedenis en de data die voor deze specifieke taak wordt opgehaald.
Context goed beheren is wat een vage AI-assistent onderscheidt van een scherpe. De juiste achtergrond inladen, vaak automatisch opgehaald via RAG, zorgt dat het model antwoordt vanuit jouw echte data in plaats van te gokken. Te veel irrelevante tekst overstemt juist het deel dat ertoe doet. En zodra een lang gesprek het venster vult, vallen de oudste berichten er stilletjes uit, en daarom lijkt een model soms te vergeten wat je eerder zei. Er is ook een kostenkant: de meeste aanbieders rekenen af op de hoeveelheid context die je meestuurt, dus een opgeblazen prompt is bij elke aanroep zowel trager als duurder.
Bij TopDevs ontwerpen we elke AI-functie rond wat er voor die specifieke taak in de modelcontext hoort, zodat antwoorden gegrond blijven in de eigen informatie van de klant.
