Anthropic advarer investorer om at kunstig intelligens kan bidra til å utvikle enda mer kapabel KI i et tempo som utfordrer dagens sikkerhetsarbeid. I det oppdaterte børsprospektet beskriver selskapet dette som risikoen for «rekursiv selvforbedring» – at KI brukes til å forbedre KI, slik at utviklingen kan akselerere kraftig. Anthropic skriver at selskapet mener egne sikkerhetsmetoder kan håndtere risikoen, men understreker samtidig at den er betydelig.
Advarselen er en del av en svært omfattende risikodel i dokumentene før den planlagte børsnoteringen. Anthropic skriver at tilstrekkelig avanserte KI-systemer, dersom de ikke utvikles og brukes med gode nok sikkerhetstiltak, kontrollmekanismer og sikring, kan innebære katastrofale eller eksistensielle risikoer for menneskeheten.
Selskapet peker særlig på såkalte agentbaserte systemer: KI som kan utføre oppgaver på brukeres vegne, bruke eksterne systemer, kjøre kode, foreta API-kall og gjennomføre transaksjoner med begrenset menneskelig oppfølging. Ifølge prospektet kan tempoet og omfanget av slike handlinger bli større enn det mennesker faktisk klarer å kontrollere før feil får følger.
Risikoene kommer samtidig som Anthropic vokser svært raskt. I en oppdatert innlevering datert 2. november oppga selskapet omsetning på 17 milliarder dollar i tredje kvartal. Omsetningen for årets ni første måneder var 33,2 milliarder dollar, men nettoresultatet viste et underskudd på 104 milliarder dollar. En stor del av tapet knyttes til regnskapsmessige verdiendringer i finansieringsavtaler.
Den finansielle innsatsen bak KI-kappløpet er også enorm. Anthropic opplyser at selskapet, per og etter 30. september, hadde inngått kjøps- og leieavtaler med samlede forpliktelser på rundt 895,4 milliarder dollar. Nesten alt gjelder datakraft og infrastruktur, inkludert datasentre.
Børsprospektet synliggjør dessuten politisk risiko. Anthropic skriver at USAs president Donald Trump i februar 2026 beordret føderale etater til å stanse bruken av selskapets teknologi, etter uenighet om blant annet masseovervåking i USA og fullt autonome våpen. Selskapet har utfordret flere av tiltakene rettslig, men advarer om at myndighetskonflikten kan påvirke kunder, samarbeidspartnere og inntekter.
Anthropic leverte først sitt offentlige S-1-prospekt 26. oktober. Den siste oppdateringen viser kontrasten investorene nå må vurdere: Eksepsjonell etterspørsel etter Claude og andre KI-tjenester på den ene siden, og voksende teknologiske, økonomiske og politiske risikoer på den andre.