CurveFP-coderingssysteem verlaagt kosten van taalmodellen

Onderzoekers hebben een nieuw coderingssysteem gepresenteerd dat de operationele kosten van geavanceerde taalmodellen omlaag kan brengen. Het voorgestelde datatype, dat CurveFP is gedoopt, maakt gebruik van een combinatie van logaritmische curven en compacte blokschalen om berekeningen binnen neurale netwerken efficiënter in te richten. Hierdoor kunnen computers met minder rekenkracht en energie toe bij het verwerken van complexe AI-taken.

Efficiënt rekenen met behoud van nauwkeurigheid

Bij de training en het gebruik van grote taalmodellen worden miljarden berekeningen uitgevoerd, wat traditioneel veel geheugen en energie vraagt. Het nieuwe systeem zorgt ervoor dat vermenigvuldigingen binnen het netwerk exact en algebraïsch gesloten blijven, zelfs wanneer er wordt gerekend met een lage precisie. Dit is een belangrijk voordeel, omdat afrondingsfouten bij verlaagde precisie normaal gesproken de prestaties van een model kunnen aantasten.

De ontwikkeling past binnen een bredere trend binnen de computerwetenschap om de efficiëntie van kunstmatige intelligentie te verbeteren. Naarmate modellen groter en complexer worden, zoeken onderzoekers naar manieren om de hardwarebelasting te verminderen zonder in te leveren op de kwaliteit van de uitkomsten. Nieuwe datatypes en coderingsmethoden spelen hierin een cruciale rol.