NVIDIA introduceert open taalmodel Nemotron 3.5 Bolt E4B 4GB
NVIDIA brengt een open klein taalmodel uit genaamd Nemotron 3.5 Bolt E4B 4GB. Het model is gebaseerd op de technologie van Gemma en is geoptimaliseerd om te draaien op lokale hardware zoals RTX-videokaarten en Jetson-systemen.
Chipmaker NVIDIA heeft de komst aangekondigd van een nieuw open taalmodel, ontworpen om lokaal te worden ingezet op computers en randapparatuur. Het model is specifiek gebouwd met het oog op toepassingen waarbij directe respons op apparaten zelf vereist is, zoals spraakassistenten, virtuele personages in games en robotica.
Gericht op lokale toepassingen en hardware
Steeds meer toepassingen vragen om modellen die niet afhankelijk zijn van externe servers in de cloud. Door de optimalisatie voor hardware die minder geheugen vereist, wordt het mogelijk om geavanceerde taaltechnologie lokaal te verwerken. Dit biedt voordelen op het gebied van snelheid en privacy, omdat gegevens het apparaat niet hoeven te verlaten.
Deze samenvatting is gebaseerd op een origineel artikel van MarkTechPost. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel