Il paziente ha riferito ai medici di aver cercato modi per ridurre l’assunzione di sale (cloruro di sodio). Aveva letto dei suoi effetti nocivi e trovato suggerimenti su come ridurre il consumo di sodio, ma non era riuscito a trovare alcuna pubblicazione sulla riduzione dell’assunzione di cloruro.
Sulla base dei suoi studi universitari in dietetica, l’uomo ha deciso di condurre un esperimento personale per eliminare i cloruri dalla sua dieta. Per un consiglio, si è rivolto a un chatbot dotato di intelligenza artificiale. Secondo il paziente, il chatbot ha suggerito di sostituire il cloruro di sodio con il bromuro di sodio, senza avvertirlo dei potenziali rischi per la salute di tale sostituzione.
I ricercatori non sono riusciti ad accedere alla cronologia chat del paziente, ma in base al momento in cui si sono manifestati i sintomi dell’avvelenamento, il paziente aveva utilizzato ChatGPT 3.5 o ChatGPT 4.0. Nei loro test, i medici hanno ricevuto la stessa raccomandazione di bromuro di sodio quando utilizzavano ChatGPT 3.5, probabilmente la versione consultata dal paziente.
Dopo tre mesi di utilizzo di bromuro di sodio al posto del sale da cucina, l’uomo ha sviluppato il bromismo, una sindrome causata dalla sovraesposizione cronica a bromuro o bromo. Questa rara condizione si verifica quando la tossina si accumula nell’organismo, scatenando potenzialmente sintomi neuropsichiatrici.
Il paziente si è recato al pronto soccorso temendo che il suo vicino lo avesse avvelenato: la paranoia è uno dei sintomi del bromismo. Altri sintomi includono allucinazioni, insonnia, acne, scarsa coordinazione e sete estrema. Gli esami hanno mostrato livelli elevati di bromuro nel sangue. Dopo aver tentato di fuggire dall’ospedale, è stato trasferito in un centro di cure psichiatriche.
Una volta che il suo stato mentale è migliorato grazie al trattamento antipsicotico, è stato in grado di riferire ai medici i consigli ricevuti da ChatGPT.
Con un’esposizione prolungata, il bromuro si accumula nell’organismo e compromette la funzionalità neuronale. Nel XIX e XX secolo, il bromuro veniva utilizzato in farmaci da prescrizione e da banco, inclusi sedativi e sonniferi. Tuttavia, negli anni ’70 e ’80, le autorità di regolamentazione hanno rimosso il bromuro dai farmaci da banco dopo averne scoperto gli effetti tossici.
Commentando il caso, i rappresentanti di OpenAI hanno riconosciuto i limiti del servizio. I termini di utilizzo di ChatGPT stabiliscono che non è destinato alla diagnosi o al trattamento di condizioni mediche e che gli utenti non devono fare affidamento sulle sue risposte come unica fonte di informazioni mediche o in sostituzione di un parere professionale.
