Anthropic wil rem op prestatie-verbeteringen van kunstmatige intelligentie
Anthropic-topman Dario Amodei stelt in een publicatie dat de AI-sector bewust gas terug moet nemen bij het verbeteren van modelcapaciteiten. Het bedrijf stelt eigen systemen open voor externe controleurs om te controleren of veiligheidsafspraken worden nageleefd.
In een recent verschenen essay betoogt Anthropic-topman Dario Amodei dat de kunstmatige intelligentie-sector te snel groeit. Hij pleit ervoor om de technologische vooruitgang doelbewust te vertragen, zodat er voldoende ruimte ontstaat voor het ontwikkelen van veiligheidsmaatregelen. Tegelijkertijd krijgen externe evaluatoren permanente en diepgaande toegang tot de systemen van het bedrijf.
Balans tussen innovatie en controle
De discussie over het tempo van AI-ontwikkeling raakt de kern van de huidige technologische wedloop. Terwijl bedrijven elkaar proberen te overtreffen met slimmere modellen,groeit de zorg over de maatschappelijke risico's. Het betrekken van onafhankelijke partijen bij de beoordeling van AI-systemen is een poging om meer zelfregulering in de sector aan te brengen.
Deze samenvatting is gebaseerd op een origineel artikel van Unite.AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel