To føderale dommere i USA har nylig uttrykt bekymring over feil i rettsavgjørelser som følge av bruk av kunstig intelligens (AI). Dommerne påpeker at selv om AI kan effektivisere rettsprosesser, kan manglende menneskelig tilsyn føre til alvorlige feil.
I en sak i Phoenix, Arizona, ble en AI-generert video brukt under straffeutmålingen. Videoen viste offeret som tilga gjerningspersonen, noe som påvirket dommerens avgjørelse. Forsvaret anket dommen og argumenterte for at bruk av AI-generert innhold var upassende og kunne ha påvirket straffeutmålingen urettferdig.
Eksperter advarer om at AI kan forsterke eksisterende skjevheter i rettssystemet. For eksempel har det vært tilfeller der algoritmer har vurdert gjentakelsesfare basert på sosioøkonomiske faktorer, noe som har ført til diskriminerende praksis.
Flere jurisdiksjoner vurderer nå å utvikle retningslinjer for ansvarlig bruk av AI i domstolene. I Arizona har høyesterett opprettet en komité for å utarbeide standarder som balanserer AI-teknologiens fordeler med behovet for rettferdighet og åpenhet.
Eksperter oppfordrer til samarbeid mellom teknologer og jurister for å sikre at implementeringen av AI i rettssystemet skjer på en måte som opprettholder rettferdighet og offentlig tillit. Dette inkluderer utvikling av retningslinjer som sikrer at AI brukes ansvarlig og med nødvendig menneskelig tilsyn.