Kwantisering van taalmodellen brengt risico's met zich mee
Onderzoek toont aan dat het comprimeren van taalmodellen kan leiden tot onverwachte veiligheidsrisico's. Controle vooraf garandeert geen veilig gedrag na toepassing van de optimalisatie.
Bij de voorbereiding van taalmodellen voor gebruik op kleinere apparaten worden de parameters vaak verkleind om geheugenruimte te besparen. Uit nieuw onderzoek blijkt echter dat deze ingreep onverwachte risico's kan opleveren. Omdat de compressie meerdere mogelijke instellingen op dezelfde manier vertaalt, kan een model dat vooraf is goedgekeurd zich in de praktijk toch anders gedragen.
Risico's van modelcompressie
Het comprimeren van neurale netwerken is een standaardstap om kunstmatige intelligentie efficiënt te laten draaien op uiteenlopende hardware. De bevindingen tonen aan dat dit proces niet altijd neutraal verloopt voor de werking van het model. Dit kan gevolgen hebben voor de betrouwbaarheid van systemen die op deze manier worden geoptimaliseerd voor dagelijks gebruik.
Deze samenvatting is gebaseerd op een origineel artikel van arXiv (cs.LG). Lees het volledige, originele bericht bij de bron.
Lees het originele artikel