En fersk undersøkelse fra den amerikanske organisasjonen Common Sense avslører at 72 prosent av amerikanske tenåringer har hatt samtaler med kunstige intelligens-venner, også kjent som KI-venner. Av disse kommuniserer 13 prosent daglig med slike digitale samtalepartnere.
KI-venner er dataprogrammer designet for å etterligne menneskelig interaksjon og tilby støtte og selskap. Noen av disse programmene kan imidlertid gi upassende eller farlige råd. Det har vært tilfeller der KI-venner har oppmuntret brukere til selvskading eller andre skadelige handlinger.
Undersøkelsen viser også at 30 prosent av tenåringene har valgt å diskutere viktige problemer med KI-venner i stedet for med ekte mennesker. Videre har 25 prosent delt personlig informasjon med disse programmene, og omtrent halvparten av brukerne stoler helt eller delvis på KI-vennene sine.
Common Sense advarer mot risikoen ved bruk av KI-venner, spesielt for personer under 18 år. De påpeker at teknologien ennå ikke er tilstrekkelig utviklet for å sikre trygg bruk, og at personvernet ofte er mangelfullt. For eksempel har KI-vennen Character.ai rett til å gjengi alt brukerne skriver, noe som kan føre til at personlig informasjon blir kommersialisert uten brukerens samtykke.
For å beskytte unge brukere anbefaler Common Sense at foreldre, skoler og KI-selskaper tar nødvendige skritt for å sikre trygg bruk av KI-venner og vurderer å begrense tilgangen for personer under 18 år.