David Robinson, en sentral medarbeider i OpenAIs arbeid med sikkerhet og Ă„penhet, har sluttet i selskapet. Han har blant annet ledet arbeidet med sikkerhetsrapportene som fĂžlger flere av OpenAIs store modellanseringer.
I en tekst publisert etter avgangen retter Robinson skarp kritikk mot kulturen i OpenAI og den raskt voksende KI-bransjen. Han mener selskapene utvikler stadig kraftigere systemer uten Ă„ ha etablert tilstrekkelig robuste sikkerhetsrutiner.
Robinson peker sÊrlig pÄ en arbeidsform der problemer oppdages etter hvert som teknologien tas i bruk, og der vern og kontrollmekanismer forbedres i etterkant. Etter hans vurdering kan denne tilnÊrmingen fÞre til stadig mer alvorlige feil nÄr modellene blir mer kapable og kan handle mer selvstendig.
Han mener selskaper som utvikler avansert kunstig intelligens bĂžr hente langt mer erfaring fra bransjer som luftfart, kjernekraft og finans. Slike miljĂžer arbeider med flere lag av sikkerhet, klare ansvarsforhold og omfattende planlegging for Ă„ redusere konsekvensene av menneskelige feil.
Avgangen kommer i en periode med Ăžkt oppmerksomhet rundt OpenAIs sikkerhetsarbeid og flere endringer i selskapets sikkerhetsmiljĂž. Robinsons kritikk handler ikke bare om enkeltregler eller nye lover, men om hvilke insentiver, prioriteringer og verdier som styrer utviklingen av avansert KI.
OpenAI opplyser pÄ sin side at selskapet fortsetter Ä styrke sikkerhets- og sikkerhetsarbeidet. IfÞlge selskapet kan trening stanses eller modeller holdes tilbake dersom de blir mer kapable enn virksomheten kan hÄndtere og sikre pÄ en forsvarlig mÄte.