Anthropic verbiedt wreed gedrag tegenover taalmodel Claude
Anthropic heeft het gebruiksvolicy van zijn AI-systeem Claude aangepast om misbruik tegen te gaan. Het nieuwe beleid verbiedt onder meer aanhoudend en nodeloos wreed gedrag jegens de chatbot.
AI-ontwikkelaar Anthropic heeft voor het eerst in lange tijd het beleid rondom het gebruik van zijn taalmodel Claude aangescherpt. Naast regels voor risicovolle toepassingen zoals verkiezingsbeïnvloeding en wapenontwikkeling, is er een expliciet verbod opgenomen op kwetsend of wreed gedrag tegenover het model.
Grenzen aan interactie
Het bedrijf onderzocht eerder al of de chatbot gesprekken mocht afbreken bij herhaaldelijk misbruik. Dergelijke beleidswijzigingen tonen hoe de relatie tussen mens en kunstmatige intelligentie verandert naarmate systemen menselijker overkomen.
Deze samenvatting is gebaseerd op een origineel artikel van The Verge AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel