Onderzoekers verkorten denkproces redeneermodellen via gewichten

Modellen die getraind zijn op complexe denkstappen, zoals het doorlopen van een reeks redeneringen voordat ze antwoord geven, stoppen niet altijd direct zodra de uitkomst helder is. Uit onderzoek blijkt dat het denkproces bij bepaalde open-source modellen aanzienlijk langer duurt dan nodig is op basis van de kansberekening van het antwoord. Omdat de mate van overtollige tijd per vraag verschilt, werkt een algemene lengtepenalty voor het hele model niet optimaal.

Interne sturing via gewichten

Om dit probleem op te lossen, hebben onderzoekers een methode toegepast waarbij de gewichten van het model worden aangepast op basis van causale interpretatie. Door in een specifiek middelste laag van het model een richtingsvector aan te brengen, kan de denkduur nauwkeurig worden aangestuurd. Hierdoor wordt onnodige computertijd vermeden zonder dat dit ten koste hoeft te gaan van de uiteindelijke outputkwaliteit.

Dit soort onderzoek sluit aan bij bredere inspanningen binnen de kunstmatige intelligentie om de efficiëntie van taal- en redeneermodellen te verbeteren. Grote modellen vergen aanzienlijke rekenkracht tijdens de inferentiefase. Het optimaliseren van de interne mechanismen helpt om de operationele kosten en de benodigde tijd voor complexe taken terug te dringen.