Psychologie van informatie-uitvraag moet mensgerichte uitlegbare AI verbeteren
Een nieuwe publicatie bepleit dat mensgerichte uitlegbare kunstmatige intelligentie meer rekening moet houden met de psychologische motieven van mensen om informatie te zoeken. Verwacht nut, zoals praktische hulp of cognitief begrip, bepaalt volgens de onderzoekers of gebruikers daadwerkelijk ingaan op geboden uitleg.
Binnen het veld van uitlegbare kunstmatige intelligentie wordt vaak geprobeerd om beslissingen van algoritmes inzichtelijker te maken voor eindgebruikers. Onderzoekers stellen echter dat er te weinig wordt gekeken naar hoe mensen zelf omgaan met informatie. Volgens een nieuwe publicatie spelen psychologische motieven een doorslaggevende rol bij de vraag of iemand überhaupt de moeite neemt om een uitleg te bekijken.
Mensen wegen vooraf af of het verkrijgen van extra informatie helpt om beter te handelen, of het zorgt voor een prettiger gevoel en of het het daadwerkelijke begrip vergroot. Het meenemen van dit soort menselijke gedragspatronen en cognitieve vooroordelen kan bijdragen aan systemen die beter aansluiten bij wat gebruikers daadwerkelijk nodig hebben.
Deze samenvatting is gebaseerd op een origineel artikel van arXiv (cs.AI). Lees het volledige, originele bericht bij de bron.
Lees het originele artikel