Onderzoek naar algoritmische vertekening in visuele AI-systemen
Wetenschappers hebben een methode ontwikkeld om maatschappelijke vertekening in visueel-linguïstische modellen te scheiden van vervuiling in historische archiefdata. Hiervoor is gebruikgemaakt van museumcollecties met gedetailleerde metadata.
Bij het beoordelen van visuele kunstmatige intelligentie op mogelijke vooroordelen is het cruciaal om te onderscheiden of een model zelf discrimineert, of dat het simpelweg patronen overneemt die al aanwezig waren in de gebruikte archiefgegevens. Onderzoekers hebben multimodale modellen geanalyseerd aan de hand van historische kunstmetadata om deze factoren nauwkeurig van elkaar te scheiden.
Dit soort audits sluiten aan bij de groeiende aandacht voor betrouwbaarheid en verantwoording binnen de sector. Naarmate AI-systemen vaker worden ingezet voor de analyse van cultuurhistorisch en gevoelig materiaal, wordt het steeds belangrijker om de herkomst van eventuele ongelijkheden in de uitkomsten helder te identificeren.
Deze samenvatting is gebaseerd op een origineel artikel van arXiv (cs.LG). Lees het volledige, originele bericht bij de bron.
Lees het originele artikel