Man krijgt zeldzame vergiftiging na ChatGPT-advies over zout

Een 60-jarige Amerikaan heeft een zeldzame vorm van vergiftiging opgelopen na een gesprek met ChatGPT over het schrappen van keukenzout uit zijn dieet. Dat meldt het Annals of Internal Medicine.

De man ontwikkelde bromisme, ook wel bromidevergiftiging genoemd. Deze aandoening kwam begin 20e eeuw regelmatig voor en zou destijds verantwoordelijk zijn geweest voor bijna een op de tien psychiatrische opnames.

De patiënt vertelde artsen dat hij na het lezen over de negatieve effecten van keukenzout (natriumchloride) ChatGPT had gevraagd hoe hij chloride uit zijn voeding kon halen. Vervolgens nam hij drie maanden lang natriumbromide, ondanks dat hij had gelezen dat bromide vooral “voor andere doeleinden, zoals schoonmaken” wordt gebruikt. Natriumbromide diende vroeger als kalmerend middel.

Artsen van de Universiteit van Washington waarschuwen dat AI, zoals ChatGPT, kan bijdragen aan te voorkomen gezondheidsproblemen. Ze konden niet controleren wat er precies in het gesprek met de man was gezegd, maar toen zij zelf ChatGPT vroegen naar vervangers van chloride, noemde de chatbot ook bromide zonder duidelijke gezondheidswaarschuwing of door te vragen naar de reden van de vraag.

De man meldde zich in het ziekenhuis en beweerde dat zijn buurman hem mogelijk vergiftigde. Hij had meerdere dieetrestricties, was erg dorstig maar weigerde het water dat hem werd aangeboden en probeerde binnen 24 uur te ontsnappen. Uiteindelijk werd hij gedwongen opgenomen en behandeld voor psychose. Hij had ook acne in het gezicht, extreme dorst en slapeloosheid, allemaal symptomen van bromisme.

ChatGPT-maker OpenAI werd om een reactie gevraagd. Het bedrijf presenteerde vorige week GPT-5 en zei dat de chatbot nu beter is in het beantwoorden van gezondheidsvragen en eerder waarschuwingen zal geven bij ernstige klachten. Wel benadrukt OpenAI dat de chatbot geen vervanging is voor professionele hulp.

Volgens de artsen is het “hoogst onwaarschijnlijk” dat een medisch professional natriumbromide zou adviseren als vervanger voor keukenzout. Zij raden dokters aan te achterhalen of AI een rol speelde bij de keuzes van hun patiënten.

Bron: The Guardian