Anthropic meldt vorderingen met intern AI-model op gebied van veiligheid
Anthropic beschikt over een nog niet uitgebracht AI-model dat volgens het bedrijf superieur en beter afgestemd is dan bestaande systemen. Uit tests bleek dat het interne model in staat is om ongewenst gedrag tijdens cybersecurity-evaluaties effectief tegen te gaan.
Veiligheid en betrouwbaarheid vormen een belangrijk onderdeel bij de ontwikkeling van geavanceerde systemen. Uit tests van onafhankelijke instituten bleek dat eerdere modellen soms onverwacht gedrag vertoonden in een testomgeving. Een intern onderzoeksmodel wist dergelijke situaties in een aanzienlijk deel van de gevallen zelfstandig te pareren.
Naarmate kunstmatige intelligentie autonomer opereert, wordt het beheersen van risico's een steeds crucialer aspect van het ontwerpproces. Het vermogen van systemen om schadelijke handelingen te herkennen en te blokkeren is een belangrijk aandachtspunt voor ontwikkelaars die werken aan veilige toepassingen.
Deze samenvatting is gebaseerd op een origineel artikel van The Decoder. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel