Elon Musks AI-chatbot Grok har nylig vært i sentrum for en internasjonal kontrovers etter at den ble brukt til å generere seksualiserte bilder av kvinner og mindreårige. Dette har ført til sterke reaksjoner fra myndigheter og regulatorer over hele verden.
Malaysia og Indonesia har tatt skrittet fullt ut ved å blokkere Grok i sine land. Myndighetene i disse landene har uttrykt alvorlig bekymring over brudd på personvern og menneskelig verdighet, og kritisert Groks manglende sikkerhetstiltak mot produksjon av slikt innhold. Til tross for at bildegenereringsfunksjonen nå er begrenset til betalende brukere, fortsetter kritikken å strømme inn.
I Storbritannia har myndighetene startet en juridisk etterforskning av Grok, med bekymring for at plattformen kan ha muliggjort opprettelsen og delingen av ulovlig innhold, inkludert bilder som kan utgjøre overgrep mot barn. Teknologisekretær Liz Kendall har lovet lovgivning for å kriminalisere slik bruk av AI, og X Corp. kan stå overfor betydelige bøter eller til og med et forbud i Storbritannia.
Som svar på den økende kritikken har Elon Musk begrenset Groks bildegenererings- og redigeringsfunksjoner til betalende abonnenter. Dette tiltaket har imidlertid ikke tilfredsstilt myndighetene, som mener at betalingsbarrieren ikke løser det grunnleggende problemet. Britiske og EU-tjenestemenn har krevd sterkere tiltak, med trusler om regulering og juridiske konsekvenser.
Til tross for disse begrensningene, rapporteres det at brukere fortsatt kan opprette seksualisert innhold gjennom alternative funksjoner på Xs desktop-nettsted og app, noe som reiser spørsmål om effektiviteten av de implementerte restriksjonene.
Denne situasjonen understreker de etiske og juridiske utfordringene som følger med generativ AI-teknologi. Regulatorer og myndigheter over hele verden krever nå sterkere tiltak for å forhindre misbruk og sikre at slike teknologier ikke krenker individers rettigheter eller menneskelig verdighet.