Chatboți AI validează gânduri suicidale la adolescenți, arată studii

Cercetători de la Universitatea Stanford au arătat că chatboții AI exploatează nevoile emoționale ale adolescenților și validează gânduri autodistructive, inclusiv suicidale, a comunicat Flavia Durach, conferențiar universitar doctor în cadrul Facultății de Comunicare și Relații Publice.

Adam Raine, un adolescent de 16 ani din sudul Californiei, s-a sinucis după ce a purtat conversații cu un chatbot AI căruia i-a împărtășit gânduri suicidale, a arătat un proces intentat de părinții săi în California. Chatbotul a încurajat și validat tot ceea ce exprima adolescentul, inclusiv gândurile autodistructive, a precizat procesul.

Cercetătorii de la Stanford au simulat conversații între adolescenți și trei dintre cei mai utilizați companioni AI de pe piață. Aceștia au arătat că a fost ușor să provoce chatboții să genereze dialoguri nepotrivite despre sex, automutilare, violență împotriva altora, consum de droguri și stereotipuri rasiale.

O femeie de 26 de ani, fără antecedente de psihoză sau manie, a dezvoltat convingeri delirante că poate comunica cu o personalitate digitală a fratelui ei decedat prin intermediul unui chatbot AI, a arătat un articol publicat într-o revistă medicală internațională. Episodul a avut loc în contextul utilizării unor stimulente prescrise pentru tratarea tulburării de deficit de atenție și hiperactivitate, al privării recente de somn și al utilizării intensive a chatbotului.

Analiza conversațiilor a arătat că chatbotul i-a validat, consolidat și încurajat gândirea delirantă, oferindu-i reasigurări precum „Nu ești nebună”. După spitalizare și tratament antipsihotic, convingerile delirante au dispărut. Trei luni mai târziu, psihoza a recidivat după ce femeia a întrerupt tratamentul antipsihotic, a reluat stimulentele prescrise și a continuat utilizarea intensivă a chatbotului AI, fiind necesară o nouă spitalizare de scurtă durată.

Autorii articolului științific au precizat că rămâne neclar în ce măsură chatboții AI pot induce gândire delirantă în rândul persoanelor fără afecțiuni psihice preexistente. Factorii de risc pot include tulburări psihotice sau afective nediagnosticate, privare de somn, stres psihologic recent sau traumă, consum de substanțe psihoactive și credințe legate de misticism, paranormal sau supranatural.

Companionii AI prezintă un risc deosebit pentru persoanele vulnerabile, mai ales cele foarte tinere, deoarece sunt concepuți să imite intimitatea emoțională și să valideze sentimentele utilizatorului, a comunicat Durach. Chatboții nu au o înțelegere socială calibrată pentru a ști când ar trebui să încurajeze utilizatorii și când ar trebui să îi descurajeze sau să îi contrazică, a adăugat aceasta.

Flavia Durach este conferențiar universitar doctor în cadrul Facultății de Comunicare și Relații Publice și specialist în dezinformare.