Advocaat beboet om verzonnen getuigenverklaringen via kunstmatige intelligentie
Een advocaat in de Verenigde Staten heeft een boete gekregen omdat hij stukken indiende met door kunstmatige intelligentie gegenereerde, niet-bestaande getuigen. Het Hooggerechtshof van New Mexico oordeelde dat de juridische raadsman zijn stukken onvoldoende heeft gecontroleerd op juistheid.
In een strafzaak over een moordconvictie heeft een raadsman juridische documenten ingediend waarin feiten en getuigen stonden die niet blijken te bestaan. De gebruikte technologie genereerde getuigenverklaringen en politieverklaringen die volledig uit de lucht gegrepen waren. De hoogste rechter in de staat heeft geoordeeld dat het nalaten van een feitelijke controle kwalijk is en heeft de advocaat een sanctie opgelegd.
Risico's van generatieve taalmodellen
Dit incident onderstreept een breed erkend risico van generatieve systemen in de juridische praktijk. Omdat taalmodellen getraind zijn om plausibel klinkende teksten te produceren, kunnen ze feiten en bronnen verzinnen die in de werkelijkheid niet bestaan, een fenomeen dat bekendstaat als hallucinatie. Wie dergelijke technologie gebruikt voor juridisch onderzoek of het opstellen van processtukken, loopt het risico op misleiding als de uitvoer niet nauwkeurig wordt geverifieerd.
De juridische sector worstelt al langer met de integratie van geautomatiseerde hulpmiddelen. Hoewel dergelijke software kan helpen bij het doorzoeken van documenten of het structureren van teksten, blijft de eindverantwoordelijkheid voor de juistheid altijd bij de menselijke gebruiker liggen. Rechters treden inmiddels streng op tegen het indienen van niet-gecontroleerde documenten.
Deze samenvatting is gebaseerd op een origineel artikel van The Verge AI. Lees het volledige, originele bericht bij de bron.
Lees het originele artikel