Een large language model, of LLM, is een AI-systeem dat getraind is op enorme hoeveelheden tekst, zodat het een verzoek begrijpt en een zinnig geschreven antwoord produceert. Je typt een vraag of instructie in gewone taal, en het antwoordt ook in gewone taal. Hetzelfde model hangt nauw samen met de afkorting LLM die je overal tegenkomt.
Een manier om het je voor te stellen. Denk aan iemand die een gigantisch deel van het internet heeft gelezen en daardoor extreem goed is geworden in het voorspellen welk woord er in een zin als volgende komt. Vraag om een mail, een samenvatting of een uitleg, en die persoon zet de tekst voort, woord voor waarschijnlijk woord, tot het antwoord af is. Dat is grofweg wat een LLM doet, en daarom zit het in het hart van tools als ChatGPT en is het zelf een tak van machine learning.
Hoe je het vraagt bepaalt wat je terugkrijgt. Een vaag verzoek levert een vaag antwoord, terwijl een heldere instructie met context en voorbeelden, wat mensen een goede prompt noemen, iets bruikbaars oplevert. Daarom voelt hetzelfde model voor de één briljant en voor de ander waardeloos.
De valkuil is dat het voorspelt in plaats van weet. Een LLM heeft geen ingebouwde feitencontrole, dus het kan een zelfverzekerd antwoord geven dat gewoon fout is. Goede systemen vangen dat op door het model te voeden met betrouwbare data en een mens in de lus te houden voor alles wat ertoe doet. Zie het als een snelle, belezen assistent die af en toe iets verzint, handig, maar nooit alleen gelaten bij een beslissing die telt.
Bij TopDevs koppelen we large language models aan klanttools waar ze echt tijd besparen, en baseren we ze op de eigen data van de klant zodat de antwoorden kloppen.
