Een kennisafkapdatum is de datum waarna een AI-model niets meer heeft geleerd. Een model zoals een large language model wordt getraind op een momentopname van data die tot een bepaald punt is verzameld. Alles wat na dat punt gebeurde, een nieuwe wet, het nieuws van vorige week, een prijswijziging, is onzichtbaar voor het model. Vraag ernaar en het model geeft toe dat het het niet weet of, erger nog, gokt.
Het helpt om te denken aan een studieboek dat in een bepaald jaar is gedrukt. Het boek is uitstekend over alles tot de drukdatum en zwijgt over alles daarna. Een AI-model is hetzelfde: zelfverzekerd en capabel binnen zijn trainingsvenster, leeg daarbuiten. Precies daarom kan een model met overtuiging iets beweren dat tijdens de training klopte maar nu achterhaald is. Vraag wie vorige week een wedstrijd won en het kan het onmogelijk weten, ook al antwoordt het alsof het dat wel doet.
De standaardoplossing is om het model tijdens het antwoorden actuele informatie te voeren in plaats van op het geheugen te leunen. Dat is het hele punt van retrieval en RAG: het model leest je actuele documenten in plaats van te gokken op oude trainingsdata. Denk aan een briljante nieuwe collega die afgelopen maandag begon. Scherp, maar de mails van deze week heeft hij nog niet gezien, dus geef je hem de nieuwste bestanden voordat hij een klant te woord staat. Een gekoppeld model werkt net zo en haalt de prijzen, het beleid en het nieuws van vandaag erbij, zodat zijn antwoord nu weerspiegelt in plaats van de dag waarop het stopte met leren.
Bij TopDevs ontwerpen we de AI-functies van een klant rond de kennisafkapdatum van het model, en koppelen we live data aan zodat antwoorden vandaag weerspiegelen in plaats van de dag waarop het model stopte met leren.
