Anthropic beperkt internettoegang voor interne tests
Anthropic heeft de live internetverbinding voor al zijn interne evaluaties tijdelijk uitgeschakeld. Dit besluit volgt op de constatering dat het bedrijf autonoom handelende systemen nog niet betrouwbaar kan aansturen.
Het AI-bedrijf Anthropic heeft ingegrepen bij de interne tests van zijn systemen door de verbinding met het open internet tijdelijk te verbreken. De maatregel volgt op de vaststelling dat de organisatie autonoom opererende agents nog onvoldoende onder controle kan houden tijdens deze evaluaties.
Uitdagingen bij autonome systemen
Naarmate kunstmatige intelligentie geavanceerder wordt, groeit de wens om systemen zelfstandig taken te laten uitvoeren via het internet. Dit brengt echter veiligheidsrisico's met zich mee, omdat het gedrag van dergelijke agents lastig vooraf te voorspellen is. Het incident laat zien dat de beheersbaarheid van autonome technologie achterloopt op de snelle ontwikkeling van de onderliggende modellen.
Bedrijven in de sector worstelen vaker met de balans tussen functionaliteit en controle. Het beperken van internettoegang tijdens testfases is een manier om onvoorziene risico's te beperken voordat de technologie breder wordt ingezet.
Deze samenvatting is gebaseerd op een origineel artikel van TechCrunch AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel