En 60 år gammel mann fra USA ble nylig innlagt på sykehus med alvorlige nevropsykiatriske symptomer etter å ha fulgt kostholdsråd fra ChatGPT. Mannen ønsket å redusere sitt inntak av natriumklorid (bordsalt) og spurte derfor ChatGPT om alternativer. Chatboten foreslo natriumbromid som erstatning, uten å advare om potensielle helsefarer.
Over en periode på tre måneder erstattet mannen alt bordsalt i kostholdet sitt med natriumbromid kjøpt på nettet. Dette førte til utvikling av bromisme, en sjelden tilstand forårsaket av overeksponering for bromid. Symptomene inkluderte ekstrem tørste, koordinasjonsproblemer, hudforandringer og alvorlige psykiatriske symptomer som paranoia og hallusinasjoner. Tilstanden ble diagnostisert etter at mannen ble innlagt på sykehus med mistanke om at naboen forsøkte å forgifte ham.
Bromisme var en vanlig tilstand tidlig på 1900-tallet, da bromidsalter ble brukt i medisiner mot blant annet søvnløshet og angst. Tilstanden ble imidlertid sjelden etter at bromid ble faset ut fra medisinske produkter mellom 1975 og 1989. I dag er natriumbromid hovedsakelig brukt i industrielle rengjøringsmidler og bassengvedlikehold, og er ikke ment for konsum.
Denne hendelsen understreker risikoen ved å stole på kunstig intelligens for helseråd uten profesjonell veiledning. Store språkmodeller som ChatGPT kan generere tekst som virker autoritativ, men som kan være ufullstendig, dekontekstualisert eller feilaktig. OpenAI, utvikleren av ChatGPT, har uttalt at deres tjenester ikke er ment for bruk i diagnostisering eller behandling av helsetilstander, og oppfordrer brukere til å konsultere helsepersonell for medisinske råd.