Advocaat bestraft na gebruik van fictieve AI-getuigenverklaringen
Een advocaat in New Mexico heeft een disciplinaire straf gekregen na het aanvoeren van verzonnen getuigenissen. De raadsman verklaarde niet op de hoogte te zijn van het feit dat AI feiten kan verzinnen.
Een juridische zaak in New Mexico heeft geleid tot een sanctie voor een verdediger die generatieve technologie inzette voor zijn werkzaamheden. De advocaat citeerde getuigenverklaringen die volledig waren verzonnen door een chatbot, een bekend verschijnsel binnen de sector dat ook wel bekendstaat als hallucinatie.
De raadsman gaf na afloop aan dat hij zich niet bewust was van de neiging van AI-systemen om onjuiste informatie te presenteren als feiten. Dit incident onderstreept de risico's die ontstaan wanneer taalmodellen worden gebruikt voor juridische documenten, waar feitelijke juistheid van levensbelang is.
Juridische implicaties van AI-fouten
Binnen de juridische sector groeit de bezorgdheid over het ongecontroleerd inzetten van kunstmatige intelligentie. Omdat chatbots getraind zijn op het voorspellen van waarschijnlijke taalpatronen in plaats van het verifiëren van waarheid, kunnen ze overtuigend klinkende maar volkomen onjuiste informatie genereren.
Deze samenvatting is gebaseerd op een origineel artikel van Ars Technica AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel