Open-source router verdeelt lokale AI-taken over apparaten
Er is een open-source virtuele router gepresenteerd die lokale AI-verzoeken verspreidt over meerdere computers in een thuisnetwerk. Het systeem verdeelt de werklast op basis van de beschikbaarheid en capaciteit van de gekoppelde apparaten.
De open-source software fungeert als een beheerlaag voor lokale AI-toepassingen door inkomende verzoeken te routeren naar verschillende beschikbare hardware. Hierdoor kunnen gebruikers rekentaken over meerdere systemen in huis verdelen zonder dat bestaande softwareaanpassingen nodig zijn.
Efficiënter werken met lokale hardware
Het hulpmiddel beoordeelt continu de status van de aangesloten apparaten, zoals de belasting van de grafische kaart en de aanwezigheid van specifieke modellen. Uit vroege demonstraties blijkt dat het combineren van rekenkracht invloed kan hebben op de verwerkingstijd van complexe taken.
Deze ontwikkeling past in een bredere trend waarin gebruikers vaker taken lokaal willen uitvoeren in plaats van via clouddiensten. Het decentraal verdelen van rekenkracht over huis- of kantoornetwerken helpt om de capaciteit van bestaande hardware beter te benutten.
Deze samenvatting is gebaseerd op een origineel artikel van MarkTechPost. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel