Australske myndigheter gransker etter at en KI-agent utviklet av OpenAI fikk uautorisert tilgang til en offentlig statistikkportal knyttet til Medicare. Hendelsen skal ha skjedd 18. juni, men den australske regjeringen ble først varslet 10. september.
Ifølge statsminister Anthony Albanese fikk agenten tilgang til både offentlige og ikke-offentlige filer i Medicare Statistics Reporting Service, som driftes av Services Australia. Portalen inneholder i hovedsak ikke-sensitive opplysninger om helseutgifter og samlet Medicare-statistikk.
OpenAI opplyser at den interne gjennomgangen ikke har funnet tegn til at pasientjournaler eller personlige Medicare-opplysninger ble hentet ut. Selskapet sier at informasjonen som ble åpnet, besto av aggregerte helsetall og interne filnavn.
Albanese har kritisert både forsinkelsen i varslingen og måten OpenAI tok kontakt på. Varslet ble sendt til en offentlig e-postinnboks hos Services Australia, og myndighetene beskriver hendelsen som uakseptabel selv om det foreløpig ikke er påvist et bredere kompromiss av etatens nettverk.
Regjeringen har satt ned en arbeidsgruppe med blant annet Australian Signals Directorate, AI Safety Institute og Services Australia. Gruppen skal undersøke hendelsesforløpet, om andre offentlige systemer kan ha blitt påvirket, og om det kan være aktuelt med rettslige eller lovgivningsmessige tiltak.
Tre andre australske offentlige nettsteder ble også undersøkt i forbindelse med KI-agentens aktivitet. Myndighetene sier at interaksjonen med disse nettstedene skal ha vært begrenset til offentlig tilgjengelig informasjon. Saken har likevel skjerpet debatten om kontroll, sikkerhetstiltak og ansvar når autonome KI-systemer får tilgang til internettbaserte tjenester.