Pleidooi voor snelheidslimiet bij verbetering van AI-modellen
In een publicatie stelt het hoofd van Anthropic dat de technologische vooruitgang moet worden getemperd. Ook deelt het bedrijf systemen met externe evaluatoren voor extra controle.
De koerswijziging van het bedrijf houdt in dat er bewust minder snel gewerkt wordt aan het vergroten van de capaciteiten van modellen. Volgens de leiding is het nodig om meer tijd in te ruimen voor het inbouwen van garanties.
Toezicht en transparantie
Het betrekken van externe partijen op werknemersniveau past in een streven naar meer openheid over hoe systemen functioneren. Dit soort maatregelen worden vaker ingezet om de betrouwbaarheid van complexe software te toetsen.
Terwijl de markt blijft groeien, klinken er vaker geluiden over de noodzaak om remmen te zetten op de ontwikkeling om onvoorziene gevolgen te voorkomen.
Deze samenvatting is gebaseerd op een origineel artikel van Unite.AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel