Interne routering van AI-modellen kan privacyrisico's opleveren
Onderzoek toont aan dat telemetriegegevens van Mixture-of-Experts-modellen kunnen onthullen of specifieke data is gebruikt voor training. Dit lek ontstaat doordat routeringsbesluiten tijdens het genereren van antwoorden zichtbaar kunnen worden.
Bij het gebruik van geavanceerde taalmodellen die werken met een zogeheten Mixture-of-Experts-structuur, ontstaat er tijdens de verwerking interne routeringsinformatie. Deze gegevens worden doorgaans bijgehouden voor technische analyses, systeemonderhoud en veiligheidscontroles. Wetenschappers hebben nu ontdekt dat deze logbestanden onbedoeld inzicht kunnen geven in de interne werking van het systeem.
Risico's voor gebruikte trainingsdata
Door deze routeringskenmerken te combineren met traditionele uitvoergegevens, blijkt het mogelijk te achterhalen of een bepaalde tekst is ingezet om het model te verfijnen. Dit raakt direct aan de privacy van de gebruikte gegevens, aangezien het systeem zo kan prijsgeven welke informatie het tijdens de ontwikkelingsfase heeft verwerkt. Dit soort privacyvraagstukken spelen vaker bij machine learning, waar modellen soms gevoeliger blijken te zijn voor datalekken dan vooraf gedacht.
Deze samenvatting is gebaseerd op een origineel artikel van arXiv (cs.LG). Lees het volledige, originele bericht bij de bron.
Lees het originele artikel