Zelfverbeterend taalmodel van Sakana AI bereikt hoge winstscore
Onderzoekers van Sakana AI hebben een methode ontwikkeld waarbij een taalmodel zichzelf verbetert door taken op te lossen en te beoordelen. Hoewel de prestaties sterk stijgen, blijft het model gevoelig voor blinde vlekken die ten onrechte als vooruitgang worden gezien.
Het onderzoek van Sakana AI richt zich op de MASS-methode, waarmee taalmodellen zelfstandig hun prestaties kunnen aanscherpen. Door taken uit te voeren, de uitkomsten te beoordelen en de workflows aan te passen, wist het model na meerdere rondes een aanzienlijk betere score te behalen dan de basisversie.
De risico's van automatische zelfverbetering
Zelfverbeterende systemen vormen een belangrijk onderzoeksgebied binnen de kunstmatige intelligentie, omdat ze de efficiëntie van modelontwikkeling kunnen vergroten. Het experiment toont echter ook een fundamenteel risico: als een model dezelfde fouten blijft maken bij zowel het uitvoeren als het beoordelen van taken, kan het systeem deze blinde vlekken onbedoeld versterken tijdens de training.
Deze samenvatting is gebaseerd op een origineel artikel van The Decoder. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel