Anthropic-topman pleit voor snelheidslimieten in AI-ontwikkeling
De leiding van Anthropic waarschuwt voor de risico's van zelfverbeterende systemen en vraagt om internationale afspraken. Er wordt onder meer gepleit voor onafhankelijke auditors en wereldwijde veiligheidsnormen.
Oproep tot internationale afspraken
Dario Amodei, topman van AI-ontwikkelaar Anthropic, uit zorgen over het tempo waarin kunstmatige intelligentie zich ontwikkelt. Hij wijst op het gevaar dat systemen zichzelf in hoog tempo gaan verbeteren, wat de menselijke controle kan ondermijnen. Om dit te beheersen, stelt hij voor om internationale verdragen te sluiten en onafhankelijke controleurs aan te stellen binnen technologiebedrijven.
De discussie over regulering en veiligheid binnen de kunstmatige intelligentie houdt de sector al langer bezig. Naarmate de capaciteiten van systemen toenemen, groeit de roep vanuit zowel de wetenschap als de industrie om duidelijke grenzen en transparantie. Dergelijke initiatieven moeten voorkomen dat de technologische vooruitgang de wetgeving en maatschappelijke controle ontgroeit.
Deze samenvatting is gebaseerd op een origineel artikel van The Decoder. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel