Onderzoek toont aan dat AI webpagina's citeert zonder ze te lezen
Onderzoekers van Imperial College London hebben gekeken naar hoe taalsystemen omgaan met bronvermeldingen. Het blijkt dat systemen soms pagina's aanhalen die ze nooit hebben ingezien.
Een publicatie van wetenschappers van de Department of Computing aan Imperial College London werpt nieuw licht op de manier waarop taalmodellen bronnen verwerken. Uit het onderzoek blijkt dat systemen in sommige gevallen verwijzingen opnemen naar webpagina's die feitelijk niet zijn gelezen.
Betrouwbaarheid van gegenereerde bronnen
Het fenomeen raakt aan een breder vraagstuk rond de nauwkeurigheid van generatieve systemen. Bij het trainen en bevragen van modellen is de correctheid van citaties cruciaal voor de geloofwaardigheid van de uitkomsten.
Het onderzoek belicht een hardnekkig verschijnsel in de literatuur rondom de betrouwbaarheid van geautomatiseerde informatieverwerking.
Deze samenvatting is gebaseerd op een origineel artikel van Unite.AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel