Nvidia introduceert open source Personal AI Router voor lokale netwerken
Nvidia heeft een virtuele router gepresenteerd die lokale kunstmatige intelligentie-aanvragen verdeelt over meerdere apparaten in een thuisnetwerk. De software werkt samen met bestaande systemen zoals Ollama en LM Studio, zodat toepassingen niet hoeven te worden aangepast.
Nvidia heeft de Personal AI Router gelanceerd, een open source oplossing om kunstmatige intelligentie-taken te spreiden over verschillende computers op een lokaal netwerk. Het systeem fungeert als proxy voor bestaande tools en beoordeelt welke apparaten beschikbaar zijn op basis van factoren zoals de belasting en de aanwezige grafische processors.
Samenwerking tussen lokale apparaten
Het verdelen van computerbelasting over meerdere machines is een bekende methode om zware processen sneller te laten verlopen. Door taken slim te roosteren over bijvoorbeeld laptops en desktops, kunnen gebruikers grotere modellen lokaal draaien zonder dat één enkel apparaat overbelast raakt. Dit past in de bredere trend waarin de verwerking van kunstmatige intelligentie vaker lokaal plaatsvindt in plaats van volledig in de cloud.
Deze samenvatting is gebaseerd op een origineel artikel van MarkTechPost. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel