OpenAI-sjef Sam Altman oppfordret onsdag FNs sikkerhetsråd til å møte den raske utviklingen innen kunstig intelligens med «ekstrem forsiktighet». Budskapet var at teknologibransjen ikke kan forsvare høy risiko bare fordi de potensielle gevinstene er store.
Altman sa at verden står ved et veiskille. Kunstig intelligens kan åpne for mer kreativitet, forskning og produktivitet, men kan også føre til maktkonsentrasjon, uoversiktlige beslutninger og systemer mennesker ikke lenger kan kontrollere. Han argumenterte for en mellomposisjon mellom ukritisk optimisme og de mest katastrofepregede framtidsbildene.
OpenAI-sjefen etterlyste internasjonale standarder for sikker KI-utvikling, raskere rapportering av alvorlige hendelser og sikre kanaler for deling av informasjon mellom myndigheter og private aktører. Han understreket også at sentrale beslutninger om teknologiens retning må forankres i demokratiske institusjoner, ikke bare i teknologilaboratorier i Silicon Valley.
Dario Amodei, toppsjef i Anthropic, deltok digitalt og advarte om at avansert KI kan bli en risiko for hele menneskeheten dersom utviklingen håndteres dårlig. Han tok til orde for felles testing av nye modeller, bedre kontroll med hva systemene faktisk kan gjøre, og en internasjonal avtale mot bruk av KI i utvikling av biologiske våpen.
Møtet synliggjorde samtidig den politiske uenigheten om hvor langt internasjonal regulering bør gå. President Donald Trump har sagt at USA avviser globale forsøk på å regulere KI på en måte som kan hemme amerikansk vekst og konkurransekraft. Altman og Amodei mener derimot at risikoene er så grenseoverskridende at ett selskap eller ett land ikke kan håndtere dem alene.