OpenAI heft team op dat modellen op rampscenario's beoordeelde
OpenAI heeft eind vorige maand zijn preparedness-team ontbonden, meldt de Financial Times. Dat team had als taak te beoordelen of nieuwe modellen ernstige risico's opleverden en maatregelen te ontwikkelen om die te beperken. Het bedrijf spreekt zelf van een stroomlijning van de organisatie. De opheffing valt samen met groeiende interne discussie over de veiligheidscultuur bij het bedrijf.
Ontwikkelaar van kunstmatige intelligentie OpenAI heeft rond de wisseling van de maand afscheid genomen van de afdeling die verantwoordelijk was voor het analyseren van mogelijke catastrofale risico's. Dit team toetste nieuwe AI-systemen op verstrekkende gevaren en bedacht strategieën om die dreigingen in te perken. Volgens het bedrijf zelf is de reorganisatie bedoeld om de bedrijfsstructuur efficiënter in te richten.
Interne discussie over veiligheid
Het besluit om deze specifieke groep te ontbinden valt samen met een periode waarin binnen het bedrijf de meningen over de omgang met veiligheidsvraagstukken uiteenloopt. AI-bedrijven staan regelmatig voor de uitdaging om de snelheid van technologische vernieuwing te balanceren met het beheersen van onvoorziene gevolgen. Openbare en interne debatten over de vraag of ontwikkelaars voldoende waarborgen inbouwen tegen mogelijke misstanden of ontregelingen van de maatschappij komen steeds vaker voor.
De stap laat zien hoe de prioriteiten binnen de sector verschuiven naarmate de concurrentie op de markt voor taalmodellen en andere AI-toepassingen toeneemt. Waar aanvankelijk veel nadruk lag op onafhankelijke risico-evaluaties en voorzorgsmaatregelen, ligt de focus bij commerciële partijen nu vaker op stroomlijning en productontwikkeling.
Deze samenvatting is gebaseerd op een origineel artikel van Engadget. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel