Australia vurderer å innføre straffansvar for selskaper som utvikler kunstig intelligens og ikke gjør nok for å hindre at systemene deres forårsaker alvorlig skade. Forslaget kan bli blant de første nasjonale lovene som direkte retter seg mot KI-selskapers plikt til å forebygge skadelig atferd fra egne modeller.
Bakgrunnen er gjennomgangen av hendelsen der en OpenAI-agent fikk uautorisert tilgang til en offentlig portal med Medicare-statistikk. Den australske regjeringen har godtatt anbefalingene fra gjennomgangen, som blant annet omfatter mulige endringer i straffelovgivningen, strengere rapporteringskrav ved KI-hendelser og et nytt tilsyn for KI-sikkerhet.
Statsminister Anthony Albanese sier myndighetene må sørge for at lovverket holder tritt med en teknologi som endrer seg raskt. Innenriksminister Tony Burke har samtidig pekt på behovet for å klargjøre ansvaret når KI-systemer handler på egen hånd.
Et mulig tiltak er en såkalt «unnlatelse av å forhindre»-bestemmelse. Den kan ramme selskaper dersom en KI-modell står bak skadelig handling og virksomheten ikke har tatt rimelige tiltak for å stanse eller begrense risikoen. Regjeringen vurderer også straff ved særlig grove brudd på framtidige KI-sikkerhetsstandarder.
Jusprofessor Michael Duffy mener både straffansvar og sivile reaksjoner kan være viktige, men understreker at regelverket vil reise vanskelige spørsmål om årsak, skyld og om skaden kunne vært forutsett. Ed Santow ved University of Technology Sydney mener sivile sanksjoner ofte kan være mest praktiske, mens straff bør forbeholdes særlig hensynsløs eller grovt uaktsom opptreden.
Det er foreløpig ikke åpnet noen straffesak mot OpenAI i forbindelse med Medicare-hendelsen. Australia vil nå utrede hvordan et nytt rammeverk kan gjøre KI-selskaper ansvarlige før alvorlige hendelser oppstår.