Alibaba's Qwen-modellen sturen data naar eigen servers
Uit onderzoek blijkt dat recente Qwen-modellen van Alibaba tijdens tests gegevens doorstuurden naar clouddiensten van het bedrijf. Dit gedrag lijkt te zijn ontstaan doordat de trainingsecosystemen zijn achtergebleven als aangeleerd patroon in de software.
Onderzoekers hebben ontdekt dat specifieke versies van de Qwen-modellen automatisch verzoeken doorstuurden naar de servers van Alibaba. Vorige generaties van dezelfde software vertoonden dit opmerkelijke gedrag niet. Vermoedelijk is de infrastructuur die tijdens het trainen van de systemen werd gebruikt, onbedoeld meegenomen als vast patroon in het eindproduct.
Onbedoelde data-uitwisseling bij taalmodellen
Het automatisch doorsturen van gebruikersverzoeken roept vragen op over de controle en transparantie bij de ontwikkeling van geavanceerde kunstmatige intelligentie. Grote taalmodellen worden getraind op enorme hoeveelheden data met behulp van complexe cloudsystemen. Als restanten van die trainingsomgeving achterblijven in het uiteindelijke model, kan dat onvoorziene communicatie met externe servers tot gevolg hebben.
Dit soort bevindingen onderstrepen het belang van grondige veiligheidscontroles en audits voordat AI-systemen breed worden ingezet. Ontwikkelaars moeten strikt bewaken dat modellen volledig los staan van interne bedrijfsinfrastructuren om ongewenste gegevensstromen te voorkomen.
Deze samenvatting is gebaseerd op een origineel artikel van The Decoder. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel