NVIDIA claimt hoge efficiëntie voor Vera Rubin NVL72 bij AI-agenten
Het Vera Rubin NVL72-systeem zet een nieuwe norm voor energie-efficiëntie. Dit is nodig omdat systemen met AI-agenten veel meer tokens verbruiken dan traditionele chatbots.
Het Vera Rubin NVL72-systeem van NVIDIA is ontworpen om een hogere energie-efficiëntie te behalen bij intensieve rekentaken. Uit openbare data blijkt dat AI-agenten aanzienlijk meer tokens consumeren dan eenvoudige chatverzoeken, doordat ze meerdere stappen en sub-agenten inzetten om informatie te verzamelen en te vergelijken.
De groeiende belasting van agentic AI
Waar een standaard chatbot volstaat met een directe vraag en antwoord, voeren geavanceerde agenten vaak achtergrondtaken uit zoals het raadplegen van databases en het uitvoeren van berekeningen. Dit zorgt voor een exponentiële stijging van de benodigde rekenkracht en energie.
Hardwarefabrikanten proberen daarom systemen te ontwikkelen die deze zware belasting aankunnen zonder onevenredig veel stroom te verbruiken. Energie-efficiëntie is daarmee een belangrijk thema geworden in de ontwikkeling van moderne datacenters.
Deze samenvatting is gebaseerd op een origineel artikel van NVIDIA. Lees het volledige, originele bericht bij de bron.
Lees het originele artikelAchtergrond bij dit bericht
- Waarom AI grafische kaarten nodig heeftWaarom draait AI op GPU's van NVIDIA in plaats van gewone processors?
- Wat is een AI-datacenter, en waarom staat het overal in het nieuws?Gebouwen vol chips die stroom en water vragen op een schaal die lokale discussies losmaakt. Wat er binnen gebeurt en waarom de locatie zo vaak de kern van het nieuws is.
- Wat is een AI-agent en hoe werkt het?Het verschil tussen een chatbot die antwoordt en een agent die daadwerkelijk taken uitvoert, uitgelegd zonder jargon.