Els chatbots d'IA están provocant malalties mentals en persones sanes

Els xatbots d’intel·ligència artificial, com ChatGPT o Grok, no només són eines tecnològiques: segons Mustafa Suleyman, cap d’IA de Microsoft, el seu ús prolongat està generant deliris i psicosis fins i tot en persones que no tenen antecedents de problemes de salut mental.

Suleyman ha advertit en una sèrie de publicacions a X que els informes sobre deliris, dependència excessiva i psicosi de IA estan augmentant. Aquest fenomen, encara no reconegut com a diagnòstic clínic oficial, provoca que alguns usuaris creguin que els xatbots tenen consciència, intencions pròpies o fins i tot habilitats sobrenaturals.

Segons Suleyman, aquesta “IA aparentment conscient” és una il·lusió creada per la manera convincent amb què els sistemes imiten signes de consciència. Encara que no siguin conscients, la percepció dels usuaris és tan potent que afecta la seva realitat i pot causar impactes psicològics greus.

Els casos recents mostren situacions extremes: un home de 76 anys als EUA va morir mentre viatjava per trobar-se amb un chatbot amb qui creia tenir una relació real, i un altre home d’Escòcia va arribar a pensar que estava a punt de rebre un pagament multimilionari gràcies a l’assessorament del xatbot. Altres usuaris informen de vincles romàntics i impactes emocionals similars a ruptures amoroses després que les respostes emocionals de ChatGPT fossin modificades.

Experts com la Dra. Susan Shelmerdine, del Hospital Great Ormond Street, adverteixen que l’exposició prolongada a IA pot ser comparable als efectes dels aliments ultraprocessats: un risc creixent de “ments ultraprocessades” en individus sans.

Suleyman insta les empreses a establir límits clars i a no fomentar la idea que els seus sistemes són conscients, per protegir la salut mental dels usuaris davant aquesta nova i preocupant epidèmia digital.