Anthropic-topman vraagt om rem op AI-ontwikkeling
De topman van AI-bedrijf Anthropic pleit voor een gecontroleerde vertraging van de technologische vooruitgang. Hij waarschuwt voor risico's rond zelfverbetering van systemen en stelt internationale afspraken en onafhankelijke controleurs voor.
Dario Amodei, de leider van kunstmatigemodellenmaker Anthropic, heeft opgeroepen tot striktere grenzen aan de snelheid waarmee AI wordt ontwikkeld. Volgens hem kan het vermogen van systemen om zichzelf te verbeteren al binnen afzienbare tijd voor grote veiligheidsproblemen zorgen als hier geen rem op wordt gezet.
Internationale regels en toezicht
Om de risico's het hoofd te bieden, oppert de topman verschillende maatregelen. Zo zouden er externe auditors binnen AI-ondernemingen moeten komen en moeten bedrijven gezamenlijke veiligheidsnormen hanteren. Ook kijkt hij naar mondiale verdragen, naar het voorbeeld van historische ontwapeningsakkoorden uit het verleden.
De oproep tot voorzichtigheid komt op een moment dat de sector te maken heeft met enorm kapitaal en grote commerciële belangen. Discussies over veiligheid en regulering spelen al langere tijd binnen de technologiesector, waar de balans tussen innovatie en maatschappelijke controle geregeld onderwerp van debat is.
Deze samenvatting is gebaseerd op een origineel artikel van The Decoder. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel