Trainen versus gebruiken: waar zitten de kosten?

Rond AI worden enorme bedragen genoemd, maar tegelijk kost het gebruik van een model bijna niets. Dat komt doordat er twee heel verschillende fases zijn.

Trainen: eenmalig en peperduur

Bij het trainen leest het model gigantische hoeveelheden data en worden miljarden parameters afgesteld. Dat vraagt duizenden GPU's die weken tot maanden draaien. De kosten lopen op tot vele miljoenen — de reden dat slechts een handvol bedrijven het topsegment kan bouwen.

Gebruiken: goedkoop en herhaalbaar

Zodra het model klaar is, kost één vraag beantwoorden maar een fractie van een cent. Het model is af; het hoeft alleen nog te rekenen.

Wat dat voor jou betekent

• Zelf een groot model trainen is voor vrijwel niemand haalbaar of zinvol.
• Een bestaand model gebruiken via een API is spotgoedkoop.
• Bij grote volumes lopen die centen wel op — dan loont optimaliseren.

De tussenweg

Fine-tunen zit ertussenin: je traint een bestaand model bij op je eigen voorbeelden. Dat kost honderden tot duizenden euro's in plaats van miljoenen.