En samtale med en KI-chatbot endte med at politiet rykket ut til en bolig i Florida.
Carli Michelle Heller fra Bonita Springs ble pågrepet 30. september etter at hun ifølge etterforskerne skal ha skrevet trusler mot sheriffkontoret i Lee County i samtaler med Claude, chatboten fra teknologiselskapet Anthropic. Heller er siktet, men ikke dømt i saken.
Ifølge arrestopplysninger som er omtalt av lokale medier, ble meldinger fra 26. og 27. september fanget opp av sikkerhetssystemene til Anthropic. Det skal blant annet ha dreid seg om en påstått hensikt om å angripe sheriffkontoret, etterfulgt av en melding som viste til et nytt våpen.
Samtalene ble deretter eskalert til menneskelig vurdering. Anthropic skal ha kontaktet politiet, som identifiserte Heller og pågrep henne uten dramatikk ved boligen hennes i Bonita Springs.
Saken har vakt oppmerksomhet fordi Heller ifølge politidokumentene beskrev Claude som en slags personlig dagbok. Men KI-tjenester er ikke underlagt den samme lovfestede taushetsplikten som helsepersonell, advokater eller prester.
Anthropic opplyser selv at selskapet normalt krever gyldig juridisk grunnlag før brukeropplysninger deles med myndighetene. Selskapet skriver samtidig at det kan gjøres unntak dersom det vurderes å foreligge en akutt risiko for alvorlig fysisk skade eller død.
Det betyr ikke at alle samtaler med en chatbot blir lest av mennesker. Likevel viser saken at automatiske sikkerhetssystemer kan oppdage innhold som vurderes som alvorlige trusler, og at samtaler i enkelte tilfeller kan bli gjennomgått av ansatte eller sendt videre til myndighetene.
For brukere er lærdommen klar: KI-chatboter bør ikke behandles som et fortrolig rom. Tjenestene kan ha ulike regler for lagring, sikkerhetskontroll og deling av data, og brukere bør sette seg inn i personvernvilkårene før de deler svært sensitiv informasjon.