Menselijke psychologie als uitgangspunt voor uitlegbare AI
Een nieuwe visie stelt dat mensgerichte uitlegbare kunstmatige intelligentie moet leunen op de psychologie van informatieverwerking. Mensen blijken op basis van instrumentele, hedonische en cognitieve motieven te bepalen of ze uitleg van een model waarderen.
Het ontwerpen van uitlegbare kunstmatige intelligentie vraagt om een beter begrip van hoe mensen informatie zoeken en verwerken. In een publicatie over mensgerichte XAI wordt beargumenteerd dat de psychologie achter informatiebehoefte een centrale plek moet krijgen. Mensen wegen immers op verschillende manieren af of een uitleg van een modelsysteem nuttig voor hen is.
De rol van psychologische motieven
Volgens de onderzoekers spelen drie typen nut een rol bij de vraag of iemand ingaat op een uitleg: praktisch nut, gevoelsmatig nut en begrip. Omdat menselijk gedrag bovendien wordt beïnvloed door cognitieve vooroordelen, moeten ontwikkelaars hier rekening mee houden bij het ontwerpen van systemen die hun beslissingen inzichtelijk maken voor gebruikers.
Deze samenvatting is gebaseerd op een origineel artikel van arXiv (cs.AI). Lees het volledige, originele bericht bij de bron.
Lees het originele artikel