Anthropic introduceert watermerken voor Claude-modellen
Anthropic voegt tekstwatermerken toe aan meerdere taalmodellen in aanloop naar regelgeving in de Europese Unie. Uit tests blijkt echter dat gebruikers van bepaalde eerdere versies deze markering eenvoudig kunnen uitschakelen via een parameter. Het bedrijf reageert hierop met een formele waarschuwing over naleving.
Kunstmatige-intelligentiebedrijven zoeken naar methoden om door AI gegenereerde teksten herkenbaar te maken voor eindgebruikers en toezichthouders. Door watermerking toe te passen in de uitvoer van taalmodellen, wordt geprobeerd misbruik en desinformatie tegen te gaan. Dit soort technische maatregelen winnen aan belang nu wetgeving vanuit de overheid strengere eisen stelt aan transparantie rondom synthetische inhoud.
Uit recente bevindingen blijkt dat de implementatie van dergelijke functies in de praktijk kwetsbaar kan zijn. Bij oudere versies van generatieve systemen is het soms mogelijk om de beveiliging via de programmeerinterface te omzeilen. Dit toont aan dat het technisch afdwingen van transparantie bij complexe software nog uitdagingen kent en vraagt om constante controle door ontwikkelaars.
Deze samenvatting is gebaseerd op een origineel artikel van The Decoder. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel