OpenAI og Meta har advart det amerikanske rettsvesenet om at KI-genererte deepfakes kan gjøre det langt vanskeligere å kontrollere om lyd-, bilde- og videobevis er ekte.
Advarselen kom under et møte i Boston i den føderale rådgivende komiteen for bevisregler. Komiteen vurderer hvordan domstolene bør håndtere risikoen for at kunstig intelligens brukes til å lage eller manipulere materiale som senere kan bli lagt fram som bevis i rettssaker.
Shira Anderson, rådgiver for politikk i OpenAI, sa at KI-genererte bilder og videoer raskt blir bedre. Hun advarte om at det i framtiden ikke nødvendigvis vil finnes en vitenskapelig metode som sikkert kan avsløre alt syntetisk innhold.
Devin Norder, produktdirektør i Meta, sa på sin side at medier fra de nyeste KI-modellene allerede kan være vanskelige for mennesker å skille fra autentisk materiale. Samtidig er det blitt både raskere og billigere å produsere overbevisende falske videoer og lydopptak.
Utfordringen er særlig alvorlig i rettssalen, der lyd- og videomateriale ofte kan ha stor betydning for hvordan dommere og juryer vurderer en sak. Dersom partene begynner å bestride om et opptak er ekte, kan domstolene få behov for mer omfattende teknisk dokumentasjon, digitale analyser og sakkyndige vurderinger før bevisene tillates brukt.
Det amerikanske rettsvesenet har arbeidet med problemstillingen siden 2023. Den føderale rådgivende komiteen vurderer blant annet nye rammer for hvordan påstander om deepfakes skal undersøkes, og hvordan KI-generert bevismateriale skal vurderes opp mot kravene til pålitelighet og autentisering.
Problemet har likevel foreløpig ikke blitt vanlig i amerikanske rettssaker. En undersøkelse blant føderale dommere viste at et lite mindretall av respondentene hadde møtt saker der en part hevdet at bevismateriale var en deepfake. Komitéleder Jesse Furman understreket derfor at rettsvesenet ennå ikke har opplevd mange slike tvister i praksis.
Teknologiselskapene forsøker å utvikle merking, vannmerker og såkalte innholdsopplysninger som kan dokumentere hvor digitalt innhold kommer fra og om det er endret. Men systemene er ulike mellom selskaper og plattformer, og kan ikke gi en universell garanti for at et bilde, et lydopptak eller en video er ekte.
Advarselen fra OpenAI og Meta peker dermed på et grunnleggende problem for framtidens rettssaker: Når både ekte og kunstig materiale kan se og høres troverdig ut, blir det viktigere å dokumentere innholdets opprinnelse før det får avgjørende betydning i retten.