En ny generasjon KI-drevet forbrukerteknologi setter personvern under press. Smartbriller med kameraer og mikrofoner, samt klokker som kan hente fram eller oppsummere deler av samtaler, gjør at overvåking i større grad flyttes inn i vanlige sosiale situasjoner.
Debatten har blitt særlig tydelig etter Apples lansering av nye lydfunksjoner for Apple Watch. Funksjonene Live Rewind og Siri Recap skal hjelpe brukeren med å hente fram det som nylig ble sagt eller lage korte oppsummeringer av dagen. Apple sier at rå lyd ikke lagres som opptak, at behandlingen skjer i en isolert maskinvarekomponent, og at brukeren selv må velge å aktivere funksjonene.
Likevel mener personvernkritikere at tekniske sikkerhetstiltak ikke løser hovedproblemet: Menneskene rundt brukeren har ofte ingen reell mulighet til å samtykke før stemmen deres blir analysert. Varsellyder, indikatorlys og regler for god etikette kan være vanskelige å oppfatte i travle omgivelser som restauranter, konserter og kollektivtransport.
Meta møter en lignende utfordring med sine KI-briller. Selskapet har denne uken omtalt nye løsninger for privat behandling av data i brillene, med mål om å begrense hvor og hvordan data sendes til eksterne systemer. Samtidig viser den økende oppmerksomheten rundt kamerautstyrte briller at tilliten blant folk i nærheten av brukeren fortsatt er lav.
Kjernen i konflikten er forskjellen mellom brukerens kontroll og omgivelsenes kontroll. Produsentene legger vekt på at eieren kan slå funksjoner av og på, mens kritikere mener at forbipasserende ikke får et tilsvarende valg. Når en enhet kan lytte, registrere eller tolke det som skjer i nærheten, blir ansvaret for å oppdage overvåkingen lett lagt på den som blir observert.
Utviklingen kan derfor gi nye krav til både produsenter og lovgivere. Spørsmålet er ikke bare hvordan data lagres, men hvem som skal ha mulighet til å si nei før teknologien begynner å fange opp en samtale eller en situasjon.