Een Generative Pre-trained Transformer (GPT) is een soort AI-taalmodel van OpenAI dat tekst stukje voor stukje voorspelt en, door dat heel goed te doen, kan schrijven, samenvatten, vertalen en vragen beantwoorden. De naam vertelt precies hoe het werkt: generative omdat het tekst maakt, pre-trained omdat het van een enorme berg tekst leerde voordat jij het ooit gebruikte, en een transformer vanwege de netwerkarchitectuur erin.
Je kunt het zien als een extreem belezen autocomplete. Je telefoon raadt het volgende woord in een berichtje; GPT doet dezelfde truc, maar getraind op zoveel materiaal en op zo’n schaal dat dat “volgende woord” kan uitgroeien tot samenhangende alinea’s, werkende code en doordachte argumenten. Het is het bekendste voorbeeld van een large language model.
GPT is niet één model maar een reeks, waarbij elke generatie groter en kundiger is dan de vorige. De vroege versies konden amper een gedachte over een alinea vasthouden. De latere gaan om met lange documenten, volgen gedetailleerde instructies en roepen externe tools aan om iets op te zoeken of een berekening te doen die ze zelf niet betrouwbaar aankunnen.
Mensen gebruiken GPT en ChatGPT vaak door elkaar, maar het zijn verschillende lagen. GPT is de kale motor. De chatapp is de auto eromheen. Ontwikkelaars kunnen de app helemaal overslaan en GPT rechtstreeks aanroepen om hun eigen software aan te drijven, en betalen dan per token tekst die het leest en schrijft in plaats van een vast abonnement.
Bij TopDevs bouwen we op GPT-modellen via hun API als een project sterk tekstbegrip nodig heeft, en we kiezen per geval tussen GPT en concurrerende modellen in plaats van aan te nemen dat er één altijd het beste is.
