Gewichten van open-source AI-modellen beveiligen tegen misbruik
Het opendelen van AI-modellen stimuleert onderzoek, maar brengt risico's met zich mee rond ongeautoriseerde aanpassingen. Met een techniek genaamd Deep Low-Rank Residual Distillation kunnen vooraf getrainde gewichten effectiever worden beschermd.
Onderzoekers van Apple hebben een methode ontwikkeld om de interne parameters van open-source kunstmatige-intelligentiemodellen beter af te schermen. Deze aanpak, aangeduid als Deep Low-Rank Residual Distillation, richt zich op het beveiligen van de zogeheten gewichten die bepalend zijn voor het functioneren van een model.
Evenwicht tussen openheid en veiligheid
Het vrijgeven van modelgewichten is binnen de technologiewereld gebruikelijk om wetenschappelijke vooruitgang en innovatie te versnellen. Tegelijkertijd ontstaat hierdoor het risico dat kwaadwillenden de systemen aanpassen voor ongewenste toepassingen, omdat de onderliggende code volledig inzichtelijk is.
De nieuwe beveiligingstechniek helpt om de integriteit van open-source systemen te bewaren zonder dat de toegankelijkheid voor legitiem onderzoek verloren gaat. Dit sluit aan bij een bredere trend waarin de technologie-industrie zoekt naar manieren om de risico's van krachtige algoritmen te beperken naarmate deze breder beschikbaar komen.
Deze samenvatting is gebaseerd op een origineel artikel van Apple Machine Learning. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel