Deepfakes tvinger fram nye bevis for at video og bilder er ekte

Vis hovedpunkter
  • Deepfakes gjør at video og bilder ikke lenger automatisk kan regnes som troverdige bevis.
  • Hany Farid mener skapere i større grad må kunne dokumentere at innholdet er ekte.
  • Kryptografisk signerte innholdsopplysninger kan vise opptakets opprinnelse og redigeringshistorikk.
  • Usynlige vannmerker kan bidra til å spore KI-generert innhold etter deling og redigering.
  • Nye verktøy fra plattformer og teknologiselskaper viser at kampen mot identitetssvindel intensiveres.
Deepfakes tvinger fram nye bevis for at video og bilder er ekte
Bilde er generert av KI

Deepfakes har gjort det langt vanskeligere å vite om en video eller et bilde viser noe som faktisk har skjedd. Nå argumenterer den amerikanske dataforskeren Hany Farid for at nettet må bevege seg bort fra en gammel hovedregel: at visuelt innhold anses som ekte til noen beviser det motsatte.

I en fersk analyse beskriver Farid hvordan generativ kunstig intelligens har endret forutsetningene for digital tillit. Han mener at ansvaret i større grad må flyttes til den som publiserer innholdet. Erotiske, politiske og økonomiske svindelforsøk kan i økende grad bygges rundt overbevisende, KI-genererte stemmer, ansikter og videoer.

Farid, som er professor ved Dartmouth College i Hanover i New Hampshire, peker på at tradisjonell digital etterforskning fortsatt er nødvendig. Teknikker som gransker bildepiksler, lysforhold, komprimering og synkronisering mellom lyd og bilde, kan avsløre tegn på manipulering. Problemet er at slike analyser ofte tar tid og ikke er laget for den enorme mengden innhold som deles på nett hvert minutt.

Derfor får såkalte provenienssignaler en stadig viktigere rolle. Dette er tekniske opplysninger som legges til når et bilde eller en video blir laget eller tatt opp. Content Credentials-standarden fra C2PA kan blant annet knytte kryptografisk signert informasjon til en fil, slik at mottakeren kan se noe av historikken: hvilket utstyr som ble brukt, når innholdet ble opprettet, og om det senere er redigert.

Slike opplysninger er ikke en garanti for at en video gjengir hele sannheten. De kan derimot gi et sterkere grunnlag for å kontrollere hvor filen kommer fra og om den er endret underveis. Hvis informasjonen fjernes eller ikke finnes, betyr det heller ikke automatisk at innholdet er falskt.

Vannmerking er et annet virkemiddel. Googles SynthID legger inn et signal som normalt ikke er synlig eller hørbart, men som kan oppdages av verktøy utviklet for formålet. OpenAI har på sin side kombinert C2PA-baserte innholdsopplysninger med SynthID og verktøy for kontroll av bilder og lyd. Tanken er at flere lag med dokumentasjon skal gjøre det vanskeligere å skjule KI-generert materiale som autentisk opptak.

Utviklingen skjer samtidig som plattformene møter større press for å håndtere misbruk av folks identitet. TikTok kunngjorde 20. november en global utrulling av et verktøy som skal hjelpe offentlige personer og store kontoer med å finne KI-generert materiale der deres likhet brukes uten samtykke. Lanseringen ble presentert i London med tanke på blant annet europeiske valg i 2027.

Farids hovedpoeng er at kampen ikke bare bør handle om å finne hver enkelt falsk video etter at den er spredt. I stedet bør journalister, myndigheter, plattformer og vanlige brukere få bedre mulighet til å verifisere det ekte innholdet fra starten av. For direkte videosamtaler kan dette på sikt bety at kamerautstyr og samtaleprogrammer må kunne dokumentere at bildestrømmen kommer fra et fysisk kamera og ikke er endret på veien.

Etter hvert som KI-verktøyene blir mer realistiske, vil ingen enkelt teknologi kunne løse problemet alene. Kombinasjonen av digital etterforskning, kryptografisk dokumentasjon, vannmerking og tydelige rutiner for identitetskontroll kan likevel gjøre det vanskeligere å bruke overbevisende forfalskninger til svindel og desinformasjon.

Referanser

Steder

  • Europa
  • Hanover
  • London
  • New Hampshire
  • USA

Personer

  • Hany Farid