Advocaat krijgt boete om door AI verzonnen getuigen in rechtszaak
Het Hooggerechtshof van New Mexico heeft een advocaat bestraft. Hij gebruikte door kunstmatige intelligentie gefabriceerde getuigenverklaringen in een strafzaak.
Een advocaat is door het gerecht bestraft nadat bleek dat hij AI-ge genereerde juridische stukken had ingediend met verzonnen getuigen en nagemaakte politieverklaringen. De rechtbank oordeelde dat de raadsman zijn stukken onvoldoende had gecontroleerd op feitelijke juistheid.
De risico's van generatieve AI in de juridische praktijk
Het incident staat niet op zichzelf binnen de juridische wereld, waar het gebruik van generatieve taalmodellen voor het opstellen van processtukken hand over hand toeneemt. Omdat taalmodellen gevoelig zijn voor hallucinaties — het overtuigend verzinnen van feiten — waarschuwen juridische experts al langere tijd voor de gevaren van blinde acceptatie. Rechters treden wereldwijd steeds strenger op tegen advocaten die nalaten om AI-gegenereerde output kritisch te verifiëren.
Deze samenvatting is gebaseerd op een origineel artikel van The Verge AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel