Wat betekent 'een model met 70 miljard parameters'?

Bij elk nieuw AI-model wordt het aantal parameters genoemd: 7 miljard, 70 miljard, soms honderden miljarden. Maar wat is dat eigenlijk?

Parameters zijn de instelknoppen

Een parameter is één afstelbaar getal in het neurale netwerk — de sterkte van een verbinding. Tijdens het trainen worden al die getallen miljoenen keren een beetje bijgesteld, totdat het model goed presteert.

Meer is niet automatisch beter

Grotere modellen kunnen meer kennis en nuance bevatten, maar ze zijn ook duurder om te draaien en trager. Een klein, goed getraind model verslaat regelmatig een groter, slordig getraind model.

Wat het praktisch betekent

• Kleine modellen (1–8 miljard): draaien op een laptop of telefoon, snel en goedkoop.
• Middelgrote (8–70 miljard): goede balans, draaien op een stevige server.
• Grote (70 miljard+): de sterkste prestaties, maar vragen zware infrastructuur.

De kern

Zie het aantal parameters als de motorinhoud van een auto: een indicatie van vermogen, maar het zegt niets over hoe zuinig hij rijdt of hoe goed hij bestuurt.