Kosten per token is de prijs die een AI-aanbieder rekent voor elk klein stukje tekst dat een taalmodel verwerkt. Een token is ongeveer driekwart van een woord, dus een gemiddelde alinea is een paar honderd tokens. Je betaalt voor wat erin gaat en wat eruit komt, en die aantallen worden vermenigvuldigd met een tarief per token om je rekening te maken.
Zie het als een taximeter die tikt bij elk woord in plaats van elke kilometer. Een korte vraag van één regel laat de meter nauwelijks bewegen. Maar plak een contract van 40 pagina’s erin en vraag om een volledige herschrijving, en de meter loopt hard, want je betaalt voor het hele document dat erin gaat en de hele herschrijving die eruit komt. Daarom is een groot contextvenster krachtig, maar niet gratis: elke extra token die je het model voert, wordt in rekening gebracht.
De prijzen verschillen sterk per model, en output-tokens kosten bijna altijd meer dan input-tokens. Een klein, snel model is misschien goedkoop genoeg om bij elke aanvraag te draaien, terwijl je een topmodel bewaart voor de lastige vragen. Die afweging is de kern van modelrouting.
De bedragen lijken nietig tot het verkeer binnenkomt. Eén antwoord kost misschien een fractie van een cent. Maar draai je die functie tienduizend keer per dag, dan stapelen die fracties op tot een echte kostenpost. Juist daar lonen kleine keuzes. Een opgeblazen systeemprompt inkorten, een lange gesprekshistorie samenvatten in plaats van steeds opnieuw mee te sturen, of de delen cachen die toch nooit veranderen: het scheelt allemaal tokens voordat een aanvraag het model bereikt. Houd de kosten per functie net zo goed in de gaten als je serverrekening. Het is geen vast bedrag, maar iets dat meegroeit met elke gebruiker die je erbij krijgt.
Bij TopDevs ontwerpen we AI-functies met de meter in gedachten. We snoeien overbodige context weg en koppelen elke taak aan het juiste model, zodat de rekening voorspelbaar blijft als het gebruik groeit.
