Anthropic introduceert FlashProve voor cryptografische AI-verificatie
Anthropic heeft een open-source onderzoeksprototype genaamd FlashProve gepresenteerd. Deze tool maakt gebruik van cryptografische bewijzen om te verifiëren of een specifiek taalmodel is gebruikt voor gegenereerde antwoorden, zonder de onderliggende modelgewichten prijs te geven.
Het AI-bedrijf Anthropic heeft een prototype genaamd FlashProve open-source beschikbaar gemaakt. Dit systeem gebruikt cryptografie om aan te tonen dat een antwoord van een taalmodel daadwerkelijk afkomstig is van een specifiek en afgesproken set modelgewichten, zonder dat die gewichten openbaar gemaakt hoeven te worden. Bij het testen werd een snelheid behaald van honderdtien tokens per seconde in combinatie met een model van Meta.
Het verificatieprobleem bij uitbesteed taalgebruik
Binnen de sector bestaat er een uitdaging rondom de controlebaarheid van gehoste taalmodellen. Wanneer gebruikers of evaluatoren een antwoord ontvangen van een externe dienst, is het vaak onmogelijk om te controleren of dat antwoord daadwerkelijk door het beloofde systeem is gegenereerd of dat er op de achtergrond een ander model is ingezet.
Cryptografische verificatie wordt in bredere kring gezien als een mogelijke oplossing om meer transparantie en betrouwbaarheid te creëren in de AI-infrastructuur. Door dit soort technieken kunnen afnemers van AI-diensten controleren of ze krijgen waarvoor ze betalen, zonder dat aanbieders hun intellectueel eigendom of modelgeheimen hoeven prijs te geven.
Deze samenvatting is gebaseerd op een origineel artikel van Unite.AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel