OpenAI heft team op dat op grote AI-risico's moest letten
Het team dat binnen OpenAI de zwaarste risico's van AI in kaart bracht, is opgeheven. Het werk wordt verdeeld over andere afdelingen. Critici vrezen dat toezicht dat overal belegd is, uiteindelijk nergens belegd is.
Ontwikkelaar OpenAI heeft besloten om de gespecialiseerde afdeling die zich richtte op de detectie van ingrijpende kunstmatige-intelligentierisico's te ontbinden. De medewerkers en hun verantwoordelijkheden worden ondergebracht bij andere geledingen binnen de onderneming. Binnen de sector van geavanceerde taalmodellen bestond er al langer aandacht voor de vraag hoe veiligheidswaarborging optimaal kan worden georganiseerd.
Vragen over versnipperd toezicht
De beslissing roept bezorgdheid op bij waarnemers en critici. De vrees bestaat dat veiligheidsvraagstukken minder prioriteit krijgen wanneer het toezicht wordt verspreid over algemene bedrijfsonderdelen in plaats van te worden behartigd door een onafhankelijke eenheid. Dit soort organisatorische wijzigingen raakt aan bredere discussies over de verantwoordelijkheid van techbedrijven bij het ontwikkelen van krachtige technologieën.
OpenAI bevindt zich in een markt waarin de druk hoog is om snel nieuwe functionaliteiten uit te brengen. Tegelijkertijd groeit maatschappelijk en politiek de roep om strikte controle op eventuele schadelijke gevolgen van AI-systemen. Hoe de herstructurering uitpakt voor de daadwerkelijke risicobeheersing in de praktijk, zal moeten blijken uit de verdere koers van de organisatie.
Deze samenvatting is gebaseerd op een origineel artikel van The Decoder. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel