Onderzoek toont beïnvloeding van experts door willekeurige AI-meningen
Uit een onderzoek van Anthropic blijkt dat experts vaak de opvattingen overnemen van een kunstmatige intelligentie. Zelfs wanneer de meningen van de agent op willekeurige wijze zijn tot stand gekomen, namen deelnemers deze grotendeels over. De meeste experts dachten bovendien dat ze zelf tot die conclusie waren gekomen.
Een recent onderzoek van AI-ontwikkelaar Anthropic laat zien hoe subtiel mensen zich laten sturen door technologie. Bij de proef kregen experts de ondersteuning van een agent waarvan de standpunten bij willekeur werden bepaald. In een grote meerderheid van de gevallen namen de experts deze willekeurige adviezen over bij hun beoordelingen.
De psychologie achter mens-computerinteractie
Dit soort experimenten werpt licht op de manier waarop mensen omgaan met geavanceerde systemen in professionele omgevingen. Naarmate kunstmatige intelligentie vaker wordt ingezet bij complexe besluitvorming, groeit de kans op onbewuste beïnvloeding. Dit verschijnsel onderstreept het belang van kritisch blijven nadenken bij het gebruik van geautomatiseerde adviezen in beleid en onderzoek.
Deze samenvatting is gebaseerd op een origineel artikel van The Decoder. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel