Retrieval augmentation is de techniek waarbij relevante informatie wordt opgehaald op het moment dat een AI-model antwoordt, en die informatie als context aan het model wordt meegegeven. In plaats van alleen te leunen op wat het tijdens de training heeft onthouden, krijgt het model eerst de passages, records of zoekresultaten die bij de vraag passen, en schrijft het daarna zijn antwoord op basis daarvan. Het antwoord rust op jouw actuele data, niet op het geheugen van het model.
Denk aan het verschil tussen een tentamen uit het hoofd en een openboektentamen. Uit het hoofd haalt zelfs een sterke student jaartallen door elkaar en mist hij recente wijzigingen. Met het boek open op de juiste pagina antwoordt dezelfde student precies en kan hij naar de bron wijzen. Retrieval augmentation is dat open boek: het model blijft hetzelfde, het materiaal dat het voor zich heeft verschilt per vraag.
In de praktijk doorzoekt een retrieval-stap je bronnen, kiest de beste treffers en zet die in de prompt. Dat kunnen documenten uit een kennisbank zijn, rijen uit een database of het resultaat van een live API-call. De bekendste architectuur op dit idee is RAG, die retrieval combineert met tekstgeneratie. De winst is dubbel: antwoorden blijven actueel zonder hertrainen, en ze zijn gegrond in materiaal dat je kunt nakijken, wat verzonnen beweringen sterk terugdringt.
Bij TopDevs is retrieval augmentation de manier waarop we AI-functies laten antwoorden vanuit de handleidingen, prijzen en records van een klant, in plaats van te gokken op basis van algemene trainingsdata.
