Meta brengt Muse Spark Open uit met één miljoen tokens context
Meta heeft Muse Spark Open uitgebracht, een open-weight model met een zeer grote contextwindow en actieve parameters. Het model is ontworpen om lokaal te kunnen draaien op specifieke hardwareconfiguraties.
Het model maakt gebruik van de Mixture of Experts-architectuur, waarbij niet alle parameters tegelijk worden ingezet om rekentijd te besparen. Met een ondersteunde contextwindow van een miljoen tokens kan het systeem enorme hoeveelheden tekst in één keer verwerken en analyseren.
Grote open-weight modellen spelen een steeds grotere rol in het technologielandschap omdat ze onafhankelijk onderzoek en lokale implementaties mogelijk maken. Meta draagt met dit soort releases bij aan de beschikbaarheid van geavanceerde technologie voor ontwikkelaars wereldwijd.
Deze samenvatting is gebaseerd op een origineel artikel van MarkTechPost. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel