Anthropic en Accenture slaan handen ineen voor AI-evaluatie
Anthropic werkt samen met het gespecialiseerde AI-onderdeel van Accenture om de veiligheid en betrouwbaarheid van geavanceerde modellen te beoordelen. Beide partijen committeren zich aan langdurige investeringen om de capaciteit voor onafhankelijke tests en risicoanalyses uit te breiden.
De samenwerking tussen Anthropic en het gespecialiseerde bedrijfdeel Faculty van Accenture richt zich op het onafhankelijk evalueren van AI-modellen. Het partnerschap omvat onder meer het testen van veiligheidsmaatregelen, het uitvoeren van zogeheten red-teaming en het beoordelen van de afstemming van de systemen. Beide organisaties voorzien substantiële investeringen om deze evaluatiecapaciteit dekomende jaren vorm te geven.
Het betrekken van externe partijen bij de validatie van systemen past in een bredere ontwikkeling binnen de sector, waarin de roep om transparantie en externe controle toeneemt. Naarmate AI-modellen complexer en invloedrijker worden, groeit de behoefte aan gestandaardiseerde methoden om risico's vroegtijdig op te sporen en te mitigeren. Bedrijven proberen hiermee te voldoen aan zowel maatschappelijke als verwachte wettelijke standaarden.
Deze samenvatting is gebaseerd op een origineel artikel van Unite.AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel