Vertrokken onderzoeker waarschuwt voor veiligheid bij Anthropic
Een onderzoeker die is vertrokken bij Anthropic spreekt over de grote druk om AI-systemen op tijd veilig te krijgen. Binnen het bedrijf wordt volgens hem gewerkt in een intensieve setting om de controle over de technologie te waarborgen.
Een medewerker van AI-ontwikkelaar Anthropic heeft het bedrijf verlaten en in een interview gesproken over de interne druk rondom de ontwikkeling van kunstmatige intelligentie. Binnen het laboratorium zou sprake zijn van een grootschalige inspanning om de systemen tijdig te voorzien van adequate veiligheidsmaatregelen.
De uitdaging van AI-veiligheid
Het waarborgen dat geavanceerde systemen betrouwbaar en mensvriendelijk blijven, is een van de grootste vraagstukken binnen de sector. Laboratoria die werken aan geavanceerde modellen staan voor de taak om theoretische veiligheidsproblemen op te lossen voordat de technologie verder groeit.
De opmerkingen sluiten aan bij bredere discussies binnen de technologiesector over de snelheid waarmee AI-modellen worden ontwikkeld en de mogelijke risico's die daarmee gepaard gaan. Experts verschillen van mening over de vraag of bestaande methoden toereikend zijn om toekomstige, krachtigere systemen te beheersen.
Deze samenvatting is gebaseerd op een origineel artikel van Wired AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel