Menselijk gedrag centraal in verklaarbare kunstmatige intelligentie
Een nieuwe visie benadrukt dat verklaarbare kunstmatige intelligentie meer rekening moet houden met de psychologie van informatieverwerving. Mensen blijken af te wegen of een uitleg daadwerkelijk nuttig, prettig of leerzaam is, beïnvloed door bekende cognitieve neigingen.
De vraag naar uitleg over de werking van algoritmen hangt nauw samen met hoe mensen van nature informatie zoeken en verwerken. Uit theoretisch onderzoek blijkt dat gebruikers niet altijd zitten te wachten op elke mogelijke technische verantwoording. In plaats daarvan evalueren ze of een uitleg helpt bij het nemen van beslissingen, of deze aansluit bij hun verwachtingen en of het bijdraagt aan het begrip.
Binnen de bredere ontwikkeling van mensgerichte technologie is er steeds meer oog voor de psychologische aspecten van gebruikers. Door rekening te houden met hoe mensen informatie interpreteren en welke denkfouten daarbij kunnen optreden, kunnen ontwikkelaars systemen bouwen die beter aansluiten bij de daadwerkelijke behoefte aan inzicht en transparantie.
Deze samenvatting is gebaseerd op een origineel artikel van arXiv (cs.AI). Lees het volledige, originele bericht bij de bron.
Lees het originele artikel