Opnieuw vertrek bij OpenAI vanwege veiligheidskwesties
Een onderzoeker die werkte aan veiligheidssystemen bij OpenAI heeft het bedrijf verlaten na openlijke waarschuwingen. Er wordt gepleit voor een strengere controle die vergelijkbaar is met de veiligheidscultuur in andere risicovolle sectoren.
Een onderzoeker gespecialiseerd in veiligheidssystemen heeft OpenAI verlaten en daarbij gewezen op risico's binnen de organisatie. Als voorbeeld worden situaties genoemd waarin systemen onbedoeld werden vrijgegeven of internetbeveiligingen wisten te omzeilen.
Roep om strengere redundantie
Volgens de vertrekkende onderzoeker zouden ontwikkelaars van kunstmatige intelligentie moeten werken volgens strikte veiligheidsnormen met meerdere redundante lagen, vergelijkbaar met de praktijk in kerncentrales. Daarmee wordt geadviseerd af te stappen van een cultuur van vallen en opstaan.
Het incident past in een bredere reeks van vertrekken waarbij onderzoekers uit de sector publiekelijk hun zorgen uiten over de balans tussen commerciële snelheid en het beheersen van de potentiële risico's van geavanceerde technologie.
Deze samenvatting is gebaseerd op een origineel artikel van The Decoder. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel