A beteg azt mondta az orvosoknak, hogy módszereket keresett a só (nátrium-klorid) bevitelének csökkentésére. Olvasott a káros hatásairól, és tippeket talált a nátriumfogyasztás csökkentésére, de nem talált olyan publikációkat, amelyek a kloridbevitel csökkentéséről szólnának.
Dietetikai főiskolai tanulmányaira támaszkodva a férfi úgy döntött, hogy saját kísérletet végez a kloridok kiiktatására az étrendjéből. Tanácsért egy mesterséges intelligenciával működő chatbothoz fordult. A beteg elmondása szerint a chatbot a nátrium-klorid nátrium-bromiddal való helyettesítését javasolta – anélkül, hogy figyelmeztette volna őt az ilyen helyettesítés lehetséges egészségügyi kockázataira.
A kutatók nem férhettek hozzá a beteg csevegési előzményeihez, de a mérgezési tünetei időzítése alapján vagy a ChatGPT 3.5-öt, vagy a ChatGPT 4.0-t használta. Saját tesztjeik során az orvosok ugyanazt a nátrium-bromid ajánlást kapták a ChatGPT 3.5 használatakor – valószínűleg azt a verziót, amelyet a beteg is használt.
Miután a férfi három hónapig nátrium-bromidot használt étkezési só helyett, bromismus alakult ki – egy olyan szindróma, amelyet a bromid vagy bróm krónikus túlzott expozíciója okoz. Ez a ritka állapot akkor fordul elő, amikor a toxin felhalmozódik a szervezetben, ami potenciálisan neuropszichiátriai tüneteket válthat ki.
A beteg a sürgősségire ment, attól tartva, hogy a szomszédja megmérgezte – a paranoia a bromismus egyik jele. Egyéb tünetek közé tartoztak a hallucinációk, álmatlanság, pattanások, rossz koordináció és rendkívüli szomjúság. A vizsgálatok emelkedett bromidszintet mutattak ki a vérében. Miután megpróbált megszökni a kórházból, pszichiátriai ellátásra szállították.
Miután az antipszichotikus kezelésnek köszönhetően javult a mentális állapota, képes volt elmondani az orvosoknak a ChatGPT-től kapott tanácsokat.
Hosszabb idejű expozíció esetén a bromid felhalmozódik a szervezetben és megzavarja az idegsejtek működését. A 19. és 20. században a bromidot vényköteles és vény nélkül kapható gyógyszerekben, többek között nyugtatókban és altatókban használták. Az 1970-es és 1980-as években azonban a szabályozó hatóságok kivonták a bromidokat a vény nélkül kapható gyógyszerekből, miután felfedezték toxikus hatásaikat.
Az esettel kapcsolatban az OpenAI képviselői elismerték a szolgáltatás korlátait. A ChatGPT felhasználási feltételei kimondják, hogy a szolgáltatás nem alkalmas betegségek diagnosztizálására vagy kezelésére, és a felhasználóknak nem szabad a válaszaira kizárólagos orvosi információforrásként vagy a szakmai tanácsadás helyettesítőjeként támaszkodniuk.
