Palantir-sjef Alex Karp advarer om at kunstig intelligens på sikt kan bevege seg fra å forutsi hva mennesker gjør, til å anslå hva de tenker og har til hensikt å gjøre.
I et intervju omtalt av flere medier peker Karp på hvordan avanserte analyseverktøy allerede kan kombinere store datamengder for å identifisere mønstre. På slagmarken kan dette dreie seg om satellittbilder, kommunikasjon og troppebevegelser. Overført til sivile sammenhenger kan lignende metoder i teorien hente signaler fra digitale spor, posisjonsdata, kjøpsmønstre og biometriske målinger.
Karps hovedbekymring er at systemer som er laget for å forutsi adferd, også kan bli brukt til å trekke slutninger om folks intensjoner uten at de vet om det eller har samtykket. Han mener dette kan åpne for både statlig overvåking og kommersiell manipulasjon, og etterlyser strengere institusjonelle rammer.
Påstanden må imidlertid ses i lys av hva teknologien faktisk kan gjøre i dag. Moderne KI brukes allerede til prediktive formål, blant annet i anbefalingssystemer, kredittvurderinger og analyser av kundeadferd. Dette er ikke det samme som å lese tanker. Slike systemer beregner sannsynligheter ut fra tidligere data, og resultatene kan være usikre, skjeve eller feilaktige.
Samtidig går forskningen på hjerneavkoding raskt fremover. Studier har vist at KI kan omsette målinger fra blant annet funksjonell MR til grove tekstbeskrivelser av det en person ser for seg eller opplever. Forskningen foregår under kontrollerte laboratorieforhold og krever omfattende hjerneavbildning eller andre direkte målinger av hjernesignaler. Det finnes ikke dokumentasjon for at vanlige digitale fotavtrykk alene kan avsløre konkrete private tanker på en pålitelig måte.
Likevel mener forskere på nevroteknologi og rettigheter at utviklingen utfordrer dagens personvernregler. Når systemer kan trekke stadig mer presise slutninger om følelser, oppmerksomhet, språk og intensjoner, blir skillet mellom personopplysninger og mental integritet mindre tydelig.
Karps advarsel handler derfor ikke bare om teknologiske muligheter, men også om hvem som kontrollerer dataene og modellene. Debatten vil trolig dreie seg om hvor grensene skal gå for prediktiv analyse, hvilke krav som skal stilles til samtykke, og hvordan innbyggere kan beskyttes mot at intime slutninger brukes av myndigheter eller selskaper.