Een hallucinatie is wanneer een AI-model een uitspraak doet die onjuist of volledig verzonnen is, maar die met volle overtuiging brengt. Het model liegt niet expres. Een large language model werkt door aannemelijke woordreeksen te voorspellen, dus als het geen echt antwoord heeft, vult het het gat met tekst die alleen maar goed klinkt. Verzonnen citaten, nepzaken en uitgevonden statistieken zijn allemaal hallucinaties.
Een goede vergelijking is een student die het opgegeven boek nooit las maar toch vastberaden is om elke examenvraag te beantwoorden. In plaats van toe te geven dat hij het niet weet, schrijft hij iets dat overtuigend leest en hoopt dat het door de keuring komt. Die drang om altijd een antwoord te geven, waar of niet, is precies wat hallucinaties veroorzaakt en waarom je vloeiende output niet als bewijs van juistheid mag nemen.
Dit is geen zeldzaam randgeval. In 2023 kreeg een advocaat in New York een berisping nadat hij een processtuk indiende vol zaken die een AI-tool simpelweg had verzonnen, compleet met nepbronnen. Het gevaar zit erin dat een fout antwoord er precies hetzelfde uitziet als een goed antwoord, dus een lezer die het niet kan checken krijgt geen waarschuwing.
Het goede nieuws: het aantal kan flink omlaag. Het model gronden in echte brondocumenten, meestal via een methode genaamd RAG, betekent dat het uit feiten antwoordt in plaats van te gokken. Combineer dat met guardrails en een mens die de belangrijke gevallen nakijkt, en het risico zakt naar een werkbaar niveau.
Bij TopDevs ontwerpen we AI-functies in de aanname dat hallucinaties kunnen gebeuren, dus we gronden antwoorden in de data van de klant en houden een mens op de beslissingen met echte gevolgen.
