Anthropic past risico-inschatting misalignement aan
In een recent risicorapport heeft AI-ontwikkelaar Anthropic de kans op catastrofale schade door verkeerd uitgelijnde modellen verhoogd naar een gering niveau. Tegelijkertijd werd bekendgemaakt dat de ontwikkeling van een geavanceerd intern model genaamd Model 2 voorlopig is gestaakt.
De kunstmatige-intelligentie-ontwikkelaar Anthropic heeft in een recent gepubliceerd risicorapport de inschatting aangepast met betrekking tot de gevaren van verkeerd uitgelijnde systemen. De kans op ernstige schade door dergelijke modellen wordt in het document voortaan ingeschat als gering. Tegelijkertijd is naar buiten gekomen dat de verdere creatie van een geavanceerd intern AI-systeem, aangeduid als Model 2, voor onbepaalde tijd is stilgelegd.
Uitdagingen rond modeluitlijning
Het zogeheten alignment-vraagstuk is een centraal thema binnen de ontwikkeling van geavanceerde algoritmen. Het draait hierbij om de vraag hoe kan worden gegarandeerd dat het gedrag van autonome systemen nauwkeurig aansluit bij de bedoelingen en normen van de makers. Bedrijven in de sector experimenteren continu met veiligheidsprotocollen om onvoorziene uitkomsten te beperken, wat regelmatig leidt tot bijstellingen in interne planningen en risicoanalyses.
Het stilleggen van een intern project toont aan dat organisaties in de technologiesector kritisch kijken naar de haalbaarheid en veiligheid van volgende generaties systemen. Naarmate de complexiteit van AI-modellen toeneemt, groeit ook de noodzaak om technische en ethische risico's zorgvuldig tegen elkaar af te wegen voordat systemen verder worden doorontwikkeld.
Deze samenvatting is gebaseerd op een origineel artikel van Unite.AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel