Jesper Bengtson
En amerikansk försvarsadvokat lämnade in en överklagan där ChatGPT hade hittat på både polisrapporter och ögonvittnen.
Delstatens högsta domstol i New Mexico har bötesfällt advokaten Stephen Aarons med 5 000 dollar (cirka 48 000 kronor) efter att han citerade fabricerade vittnen och påhittade polisförhör i ett överklagande i ett mordmål. Beslutet, som föll den 11 september 2026, förklarar Aarons i domstolsförakt.
Aarons, en försvarsadvokat i Santa Fe, hade tagit över överklagandet för Oscar Renee Sandoval, som dömts till livstids fängelse för mordet på modern till sina barn. För att sammanfatta det omfattande rättegångsmaterialet matade advokaten in delar av det i ChatGPT. Chattboten svarade med vittnesnamn och polisiära uttalanden som aldrig funnits, inklusive en påhittad beskrivning av att skytten skulle ha burit mörka byxor och vit skjorta. Det rapporterar Al Jazeera med hänvisning till domen.
Domarens skarpa fråga i rättssalen
Vid förhandlingen den 21 augusti riktade justitierådet C. Shannon Bacon en direkt fråga till advokaten: ”Läser du nyheterna? Lyssnar du på radio? Läser du något om vad som pågår i världen?” Bacon påpekade vidare att problemet med advokater som förlitar sig på AI-hallucinationer numera är en förstasidesnyhet i stort sett varje dag.
I domen skriver New Mexicos högsta domstol att Aarons ”uppvisade brist på ånger och brist på omsorg om sin klient”. Boten på 5 000 dollar går till delstatens fond för att skydda klienter som drabbats av advokatfel. Ärendet har dessutom skickats vidare till delstatens disciplinnämnd för advokater, som kan besluta om ytterligare påföljder.
Aarons själv har försvarat sig med att han inte insåg hur långt AI kunde gå i att hitta på fakta. Till Reuters uppgav han: ”Jag är ångerfull men hoppas att disciplinnämnden tar hänsyn till att det var ett ärligt misstag.”
Minst sju fall i New Mexico sedan 2023
Domstolar i New Mexico har enligt Yahoo News/Reuters upptäckt AI-hallucinationer i minst sju rättsfall sedan 2023. Tidigare fall har typiskt rört felciterad rättspraxis och påhittade domar.
Sandovals överklagande har omtilldelats en offentlig försvarare, Kim Chavez Cook, den 2 september, och processen ska börja om från grunden. Sandoval sitter fortsatt fängslad medan det nya överklagandet förbereds.
Varför hallucinerar ChatGPT?
Så kallade hallucinationer uppstår när en språkmodell genererar text som låter trovärdig och grammatiskt korrekt, men som saknar förankring i verkliga data. Modellen förutspår vilket ord som statistiskt sett bör komma härnäst, inte vad som faktiskt är sant. När en användare ber ChatGPT om en sammanfattning av ett dokument som modellen inte har full tillgång till, fyller den ofta i luckorna med plausibla men fabricerade detaljer, till exempel namn, datum eller citat.
Fenomenet är dokumenterat av OpenAI själva och en av anledningarna till att företaget ständigt påminner om att verktyget inte ska användas som enda källa till fakta. I juridiska sammanhang har flera amerikanska domare de senaste åren utfärdat egna rutiner som kräver att advokater intygar att inlämnade dokument har kontrollerats manuellt om AI har använts i produktionen.
För privatpersoner som använder ChatGPT eller liknande verktyg gäller samma princip: varje faktauppgift, citat, siffra eller källhänvisning som chattboten producerar ska verifieras mot en originalkälla innan den används i något officiellt sammanhang, oavsett om det handlar om ett myndighetsbrev, ett CV eller ett skolarbete.
