Nieuwe methode maakt beslissingen van machine learning inzichtelijk
Onderzoekers introduceren ProToMEx, een techniek om beslissingen van machine learning-modellen te verklaren via gestructureerde representaties. In plaats van individuele kenmerken te wegen, gebruikt de methode probabilistische topicmodellen om onderliggende redenen te duiden.
Bij complexe machine learning-systemen is het vaak lastig te achterhalen hoe een model tot een bepaalde beslissing komt. Veel bestaande methoden kijken vooral naar de invloed van losse kenmerken, maar missen vaak de complexere combinaties van factoren die een rol spelen. De nieuw ontwikkelde aanpak probeert dit op te lossen door gebruik te maken van onderliggende thema's die als overkoepelende reden voor een uitkomst kunnen dienen.
Transparantie in complexe systemen
Binnen de kunstmatige intelligentie groeit de vraag naar interpreteerbaarheid gestaag, met name in sectoren waar beslissingen van algoritmen grote gevolgen kunnen hebben. Modellen worden doorgaans zo complex dat ze als 'zwarte doos' functioneren. Onderzoek naar methoden om deze systemen beter te begrijpen is daarom een belangrijk aandachtsveld binnen het veld van machine learning.
Deze samenvatting is gebaseerd op een origineel artikel van arXiv (cs.LG). Lees het volledige, originele bericht bij de bron.
Lees het originele artikel