Anthropic en OpenAI onderzoeken onafhankelijke veiligheidstests
AI-ontwikkelaars Anthropic en OpenAI overwegen om onafhankelijke evaluatoren toe te laten binnen hun organisaties. Onderzoekers reageren positief op de toegang, maar benadrukken dat echte controle afhankelijk is van openbaarheid en wetgeving.
De kunstmatige-intelligentiesector staat al langer onder druk om de veiligheid van geavanceerde systemen beter te waarborgen. Verschillende ontwikkelaars onderzoeken nu de mogelijkheid om externe experts direct bij hun werk te betrekken voor kwaliteitscontroles. Hoewel dit wordt gezien als een stap richting meer openheid, klinken er ook kritische geluiden over de ware onafhankelijkheid van dergelijke interne evaluaties.
De roep om onafhankelijk toezicht
Binnen de technologie-industrie is er een groeiende spanning tussen commerciële belangen en maatschappelijke risico's. Experts wijzen erop dat zelfregulering via ingebedde controleurs mogelijk niet voldoende is om misstanden te voorkomen. Om risico's van krachtige computermodellen effectief te beheersen, zal er volgens ingewijden uiteindelijk wetgeving en dwingend overheidstoezicht nodig zijn.
Deze samenvatting is gebaseerd op een origineel artikel van TechCrunch AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel