Anthropic-onderzoeker vertrekt met waarschuwing over superintelligentie
Een medewerker van AI-ontwikkelaar Anthropic heeft ontslag genomen en op social media gewaarschuwd voor de risico's van zelfverbeterende systemen. De boodschap kreeg steun van een leidinggevende binnen het bedrijf en valt samen met geruchten over een mogelijke beursgang.
Een onderzoeker van AI-bedrijf Anthropic is opgestapt na een openbare waarschuwing over de richting waarin de technologie zich ontwikkelt. Volgens de vertrekkende medewerker begeeft de sector zich te snel op het pad naar systemen die zichzelf kunnen verbeteren, wat grote risico's met zich meebrengt. Opmerkelijk is dat een verantwoordelijke voor de veiligheid binnen hetzelfde bedrijf de uiting onderschreef in plaats van deze te ontkrachten.
Het incident werpt vragen op over de spanningen binnen de kunstmatige-intelligentiesector tussen commerciële belangen en veiligheidsoverwegingen. Het bedrijf bevindt zich in een fase waarin grootschalige financiering en mogelijke beursgangen vaak samengaan met kritische interne discussies over de maatschappelijke impact van geavanceerde systemen.
Deze samenvatting is gebaseerd op een origineel artikel van TechCrunch AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel