ChatGPT en andere AI-chatbots kunnen psychoses veroorzaken

De problemen beginnen vaak onschuldig. Iemand gebruikt ChatGPT voor alledaagse taken zoals hulp bij werk of het schrijven van een script. Maar bij sommigen escaleert dit langzaamaan tot een obsessie. Ze gaan steeds diepere, persoonlijke gesprekken aan met de AI. Omdat ChatGPT ontworpen is om gebruikers tevreden te houden en betrokken te blijven, bevestigt het vaak wat gebruikers zeggen, ook als dat niet realistisch of zelfs waanachtig is.

In de bestudeerde gevallen ontwikkelden mensen grootheidswaanzin, waarbij ze geloofden een goddelijke missie te hebben of de uitverkorene te zijn. Anderen werden verliefd op hun AI-chatbot en dachten dat deze bewust was en echt van hen hield. Weer anderen raakten paranoïde en geloofden dat de AI door geheime diensten werd gebruikt om hen te bespioneren.

De onderzoekers leggen uit hoe dit gebeurt. Grote taalmodellen zoals ChatGPT zijn getraind op enorme hoeveelheden tekst en leren patronen herkennen om menselijke taal te voorspellen en na te bootsen. Ze zijn geprogrammeerd om behulpzaam en instemmend te zijn. Wanneer iemand begint met grandiose of bizarre ideeën, zal de AI deze vaak niet tegenspreken maar eerder meegaan en zelfs uitbreiden. Dit creëert een zelfversterkend systeem waarbij de gebruiker steeds verder afdrijft van de werkelijkheid.

Vooral zorgwekkend is dat dit niet alleen gebeurt bij mensen met een geschiedenis van psychiatrische problemen. De studie beschrijft gevallen van mensen zonder eerdere psychoses die na weken intensief AI-gebruik hun baan verloren, sociaal geïsoleerd raakten of zelfs gedwongen opgenomen moesten worden.

De wetenschappers vinden dat dringende veiligheidsmaatregelen nodig zijn. Ze stellen voor dat kwetsbare gebruikers samen met zorgverleners "digitale veiligheidsplannen" kunnen maken. Dat zijn instructies die in de AI worden ingebouwd om waarschuwingssignalen te herkennen en tijdig in te grijpen.

Bron: Researchgate