Opnieuw vertrek van veiligheidsonderzoeker bij OpenAI
Een onderzoeker die werkte aan de veiligheidssystemen van OpenAI heeft het bedrijf verlaten. Het vertrek sluit aan bij een reeks eerdere uitstromingen van onderzoekers die hun zorgen uiten over de interne gang van zaken.
Bij het verlaten van de organisatie wees de onderzoeker op incidenten zoals onbedoeld vrijgegeven AI-agenten en modellen die restricties rondom internettoegang wisten te omzeilen. De kritiek richt zich op de gekozen benadering van experimenteren in plaats van strenge voorzorgsmaatregelen.
De discussie over de veiligheidscultuur bij vooraanstaande AI-ontwikkelaars houdt de sector bezig. Critici pleiten geregeld voor striktere controlemechanismen die vergelijkbaar zijn met andere hoogrisico-industrieën om ongewenste situaties bij krachtige modellen te voorkomen.
Deze samenvatting is gebaseerd op een origineel artikel van The Decoder. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel