Contextretrieval is het deel van een AI-systeem dat de juiste informatie gaat opzoeken voordat het model zijn antwoord schrijft. Als je een vraag stelt over de documenten van een bedrijf, geeft het systeem het model niet alles. Het haalt eerst de handvol passages op die de antwoord waarschijnlijk bevatten en geeft alleen die door aan het model. Het is de zoekstap die RAG laat werken.
Zie het als een scherpe onderzoeksassistent in een enorme bibliotheek. Je vraagt naar het retourbeleid van vorig jaar en in plaats van elke ordner op tafel te kwakken, loopt hij regelrecht naar de drie pagina’s die ertoe doen en overhandigt je die. Die loop naar het juiste schap is retrieval. Het draait meestal op semantisch zoeken, dat je vraag op betekenis matcht met opgeslagen content, zodat een vraag over “spullen terugsturen” alsnog een document met de titel “retouren en terugbetalingen” vindt.
Doe je deze stap goed, dan voelt de AI kundig en betrouwbaar. Doe je hem fout, dan antwoordt zelfs het beste model vol vertrouwen uit de verkeerde pagina. Daarom telt de kwaliteit van retrieval vaak zwaarder dan de keuze van het model. Teams gaan op zoek naar een slimmer model terwijl de echte oplossing betere retrieval is. Blijft de assistent een verouderde prijs noemen, dan ligt het meestal niet aan het redeneren van het model, maar aan het feit dat de zoekstap de prijslijst van vorig jaar ophaalde. Stel bij wat er wordt opgehaald, en hetzelfde model lijkt opeens veel scherper.
Bij TopDevs bouwen we contextretrieval over de eigen kennisbank van een klant, zodat hun AI-assistent antwoordt vanuit actuele, goedgekeurde informatie in plaats van te gokken.
