NVIDIA introduceert open-source Personal AI Router
NVIDIA heeft de Personal AI Router gepresenteerd, een open-source virtuele router om lokale AI-verzoeken te verdelen over verschillende computers in een netwerk. Het systeem maakt gebruik van bestaande infrastructuur om taken efficiënt af te handelen.
Het open-source project van NVIDIA helpt om computertaken te spreiden over meerdere apparaten die al in een thuisnetwerk aanwezig zijn. De software fungeert als een proxy die bestaande systemen benut zonder dat de onderliggende software of agenten hoeven te worden aangepast. Een ingebouwde scheduler beoordeelt daarbij de capaciteit en status van elke machine.
Lokaal beheer van AI-taken
Het verdelen van werkbelasting over lokale hardware past in de bredere trend waarin gebruikers meer controle willen houden over hun eigen computerprocessen. Waar zware AI-modellen traditioneel omvangrijke rekencentra vereisen, groeit de behoefte om lokale systemen slim te combineren.
Uit demonstraties blijkt dat het koppelen van meerdere apparaten rekentaken kan versnellen. De software toont hoe flexibel omgegaan kan worden met beschikbare computerkracht in een decentrale omgeving.
Deze samenvatting is gebaseerd op een origineel artikel van MarkTechPost. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel