Nieuwe API van Fortytwo vermindert tokenverbruik bij programmeren
Fortytwo introduceert een nieuwe inferentie-API die gebruikmaakt van samenwerkende taalmodellen. Uit tests blijkt dat deze aanpak leidt tot minder gegenereerde tekst bij het uitvoeren van programmeertaken.
Het technologiebedrijf Fortytwo heeft een nieuwe interface gelanceerd die is ontworpen om de efficiëntie van kunstmatige intelligentie te vergroten. Het systeem zet meerdere modellen tegelijk in om complexe vraagstukken op te lossen.
Efficiënter werken met taalmodellen
Bij het automatisch genereren van programmacode communiceren systemen vaak in grote hoeveelheden tekst, wat in de praktijk flink kan aantikken in de kosten. Door samenwerking tussen verschillende modellen kan het aantal benodigde eenheden worden teruggedrongen zonder dat dit ten koste gaat van het eindresultaat.
Volgens de makers behaalde de toepassing betere resultaten bij software-taken dan wanneer het model zelfstandig opereert. Dit soort optimalisaties zijn relevant voor de bredere markt, waar de operationele kosten van slimme assistenten en agenten nauwlettend worden gevolgd.
Deze samenvatting is gebaseerd op een origineel artikel van Unite.AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel