Zorgen over veiligheid bij AI-ontwikkelaar Anthropic
Een onderzoeker van Anthropic is opgestapt vanwege zorgen over de snelheid waarmee krachtige AI-systemen worden ontwikkeld. Binnen het vakgebied klinken vaker geluiden over de risico's van ongecontroleerde technologische vooruitgang.
Een senior onderzoeker van kunstmatige intelligentie heeft zijn functie neergelegd uit onvrede over het veiligheidsbeleid van zijn werkgever en sectorgenoten. Volgens de vertrekkende medewerker ligt er een risico op het creëren van systemen die de menselijke controle te boven gaan, door de sterke nadruk op een snelle ontwikkeling.
Discussie over veiligheid en controle
De controverse rondom de ontwikkeling van geavanceerde systemen roept bredere vragen op over de regulering van de sector. Grote laboratoria staan onder druk om te innoveren, terwijl critici en experts waarschuwen voor het ontbreken van voldoende vangnetten en ethische kaders bij het bouwen van systemen die zichzelf mogelijk kunnen verbeteren.
Deze samenvatting is gebaseerd op een origineel artikel van The Verge AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel