Thinking Machines presenteert Inkling 2 Small

De door een voormalig topman van OpenAI opgerichte startup Thinking Machines brengt een nieuw AI-model uit onder de naam Inkling 2 Small. Het model maakt gebruik van een zogeheten mixture-of-experts structuur en telt honderden miljarden parameters. Volgens de makers behoort het systeem tot de sterkste open-wisselwerkingen van westerse makelij op dit moment.

Balans tussen prestaties en capaciteit

Bij de ontwikkeling van moderne taalmodellen ligt de nadruk steeds vaker op agentische vaardigheden, waarbij systemen zelfstandig complexe taken kunnen uitvoeren. Uit de specificaties blijkt wel dat betere prestaties op dit vlak gepaard gaan met een hoger verbruik van tokens tijdens het gebruik. Dit vraagt om extra optimalisatie van de infrastructuur bij implementatie.

De release past binnen een bredere trend waarbij open-weight modellen steeds dichter in de buurt komen van gesloten systemen van grote technologiebedrijven. Steeds meer organisaties kiezen voor open alternatieven om meer controle te behouden over hun data en modelkeuze, al blijft het managen van de operationele kosten een belangrijke uitdaging in dit segment.