Anthropic introduceert API voor het herkennen van Claude-teksten

Het Amerikaanse kunstmatige-intelligentiebedrijf Anthropic maakt zich op voor de introductie van een speciale interface waarmee gecontroleerd kan worden of geschreven output afkomstig is van het taalmodel Claude. Hiermee krijgen buitenstaanders de mogelijkheid om de herkomst van content te verifiëren. De software bouwt voort op watermerktechnologie die oorspronkelijk door Google is ontwikkeld, al brengt de toepassing in de praktijk nog wel specifieke technische uitdagingen met zich mee bij het controleren van programmeercode en feitelijke informatie.

Watermerken in AI-content

De komst van dergelijke detectietools past in een bredere trend binnen de technologiasector waarin makers van generatieve AI zoeken naar manieren om onderscheid te maken door mensen gemaakte en door machines gegenereerde content. Naarmate taalmodellen geavanceerder worden en teksten produceren die nauwelijks van menselijk schrijfwerk te onderscheiden zijn, groeit de vraag naar transparantie van diverse organisaties en overheden. Tegelijkertijd laat de praktijk zien dat het betrouwbaar achterhalen van de bron complex blijft, met name in situaties waarin nauwkeurigheid en feiten zwaar wegen.