Advocaat bestraft na gebruik van fictieve getuigenverhoren via ChatGPT
Een advocaat heeft een straf gekregen nadat bleek dat het taalmodel ChatGPT was gebruikt om niet-bestaande getuigenverhoren aan te dragen in een juridische zaak. De jurist verklaarde niet op de hoogte te zijn van het fenomeen waarbij AI onjuiste informatie verzint.
In een juridische zaak is een advocaat op de vingers getikt voor het inbrengen van onjuiste informatie. Uit onderzoek bleek dat de gebruikte documenten waren gegenereerd door een kunstmatig neuraal netwerk, waarbij verklaringen en getuigen volledig waren verzonnen.
Het voorval toont aan hoe riskant het is om generatieve taalmodellen blind te vertrouwen voor feitelijk en juridisch onderzoek. Systemen die taal genereren zijn geoptimaliseerd voor het produceren van plausibele tekst, niet voor het achterhalen van de waarheid, wat in juridische contexten tot grote problemen kan leiden.
Deze samenvatting is gebaseerd op een origineel artikel van Ars Technica AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel