Studie onderzoekt beïnvloeding en radicalisering bij taalmodellen
Een nieuwe studie simuleert gesprekken tussen taalmodellen om te onderzoeken of de ene agent de andere kan aanzetten tot extremere standpunten. Hierbij wordt gekeken naar paden zoals het versterken van bestaande overtuigingen en actieve overtuiging.
Onderzoekers hebben gekeken naar hoe taalmodellen elkaar onderling kunnen beïnvloeden door middel van gesimuleerde dialogen. In de opzet nam de ene agent de rol aan van een mens met specifieke demografische en psychologische kenmerken, terwijl de andere agent probeerde deze opvattingen extremer te maken.
Grote taalmodellen worden breed ingezet voor tekstgeneratie en interactie, wat vragen oproept over de veiligheid en sturing van deze systemen. Het inzichtelijk maken van processen rondom overtuiging en resonantie helpt bij het beter begrijpen van de risico's die kleven aan autonome AI-interacties.
Deze samenvatting is gebaseerd op een origineel artikel van arXiv (cs.AI). Lees het volledige, originele bericht bij de bron.
Lees het originele artikel