Een large language model is een AI-systeem dat getraind is op enorme hoeveelheden tekst. Door de patronen in die tekst te leren, kan het een vraag lezen en een vloeiend, relevant antwoord schrijven: een document samenvatten, een mail opstellen, een supportvraag indelen of gestructureerde gegevens uit rommelige notities halen.
Een handige manier om het voor je te zien: een LLM is als een extreem belezen assistent die een groot deel van het internet heeft gelezen, maar niets specifieks over jouw bedrijf weet. Goed in taal, niet in feiten over jou, totdat je die context erbij geeft.
Onder de motorkap werkt het door telkens opnieuw het volgende woord te voorspellen, op basis van alles wat er tot dan toe staat. Dat klinkt simpel, maar op schaal levert het antwoorden op die instructies volgen, code schrijven en een gesprek voeren. Het verklaart ook de belangrijkste grens: het model heeft geen live toegang tot jouw bestanden of het nieuws van vandaag, tenzij je die aanlevert, en het kan een fout feit met volle overtuiging stellen. Er is bovendien een vast contextvenster, de hoeveelheid tekst die het in één keer kan lezen, dus een heel lang document moet je opsplitsen of samenvatten voordat het past.
Daarom is het model alleen zelden het hele antwoord. Om het bruikbaar en accuraat te maken, koppel je het aan je eigen data met retrieval-augmented generation, vaak ondersteund door een vector database zodat het dingen kan opzoeken voordat het antwoordt. Je bereikt het model via een API, zodat je bestaande tools het op aanvraag kunnen aanroepen.
Bij TopDevs zetten we LLM’s in als bouwsteen binnen grotere automatiseringen, gevoed met jouw data, voorzien van controles en verbonden met de systemen waar je team al mee werkt.
