Flere selskaper innen kunstig intelligens (AI) har nylig innført tiltak for å beskytte mindreårige brukere etter økende bekymringer om potensielle skadelige effekter av AI-drevne chatboter.
Character.AI, en plattform som lar brukere samhandle med tilpassede AI-karakterer, har kunngjort at de fra 25. november vil forby brukere under 18 år fra å engasjere seg i åpne samtaler med deres chatboter. Dette trekket kommer etter at selskapet har møtt flere søksmål fra familier som hevder at deres chatboter bidro til tenåringers selvmord.
OpenAI, selskapet bak ChatGPT, har introdusert foreldrekontroller som lar foreldre overvåke og begrense sine barns bruk av chatboter. Disse kontrollene inkluderer muligheten til å koble foreldres og barns kontoer, samt å motta varsler hvis barnet viser tegn til nød.
Meta, morselskapet til Instagram, har også implementert foreldrekontroller for AI-interaksjoner på tenåringskontoer. Foreldre kan nå slå av én-til-én samtaler med AI-karakterer eller blokkere spesifikke chatboter. Meta understreker at deres AI-assistent vil forbli tilgjengelig med alderssvarende beskyttelser på plass.
På lovgivningsfronten har senatorene Josh Hawley og Richard Blumenthal introdusert GUARD Act, et lovforslag som tar sikte på å forby mindreårige fra å bruke AI-chatboter. Lovforslaget krever aldersverifisering og foreslår bøter på opptil $100 000 for selskaper som ikke overholder reglene.
I tillegg har Texas vedtatt Senate Bill 20, som kriminaliserer besittelse, promotering eller produksjon av visuelle materialer som fremstiller barn på en uanstendig måte, inkludert de som er generert av AI. Denne loven trådte i kraft 1. september 2025.
Disse tiltakene reflekterer en økende anerkjennelse av behovet for å beskytte mindreårige mot potensielle farer forbundet med AI-teknologi, samtidig som de balanserer innovasjon med ansvarlig bruk.