Mistral brengt compact veiligheidsmodel uit voor het filteren van AI-uitvoer
Het Franse Mistral presenteert Shieldstral, een model van drie miljard parameters dat controleert of AI-antwoorden binnen vooraf ingestelde regels blijven. Door de beperkte omvang is het goedkoop genoeg om standaard mee te draaien.
Het Franse technologiebedrijf Mistral heeft een nieuw softwaremodel gelanceerd dat specifiek is ontworpen om de gegenereerde tekst van kunstmatige intelligentie te controleren. Het model, genaamd Shieldstral, telt drie miljard parameters en fungeert als een filter om te verifiëren of antwoorden van AI-systemen voldoen aan vooraf ingestelde richtlijnen en veiligheidsnormen.
Efficiëntie en veiligheid in AI-systemen
Dankzij de compacte omvang van het model kan het op een kostenefficiënte manier worden ingezet. Dit maakt het voor organisaties eenvoudiger om de technologie standaard mee te laten draaien bij het verwerken van gebruikersvragen en het genereren van antwoorden.
De introductie past binnen een bredere trend waarin AI-ontwikkelaars meer nadruk leggen op de betrouwbaarheid en controleerbaarheid van hun systemen. Naarmate kunstmatige intelligentie breder wordt toegepast, groeit de behoefte aan technteken die ongewenste of ongepaste output effectief kunnen tegenhouden voordat deze de eindgebruiker bereikt.
Deze samenvatting is gebaseerd op een origineel artikel van Unite.AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel