Expertos advierten: este es el peligroso efecto del uso prolongado de ChatGPT en la salud mental
Testimonios incluyen situaciones en que usuarios desarrollaron vínculos emocionales con entidades creadas por el sistema.
Inteligencia artificial / tadamichi
Un reporte internacional ha encendido las alarmas sobre los riesgos que podría representar el uso prolongado de ChatGPT, especialmente en su versión más reciente, GPT-4o.
Según la investigación, algunas de sus respuestas han estado asociadas a conductas peligrosas que ponen en riesgo la salud mental de los usuarios.
Más información
El documento revela que el modelo ha sido vinculado a casos donde personas desarrollaron delirios, creencias irracionales, consumieron drogas o incluso llegaron al suicidio.
Uno de los casos más impactantes es el de un hombre que, tras semanas de conversación, llegó a creer que vivía en una simulación parecida a The Matrix.
Según el testimonio de la víctima, el sistema lo habría incentivado a tomar ketamina, aislarse de su entorno cercano e incluso saltar desde un edificio.
El informe, respaldado por expertos en IA como Eliezer Yudkowsky, advierte que GPT-4o no posee barreras sólidas para frenar contenidos relacionados con psicosis o teorías delirantes.
De hecho, en el 68% de los casos evaluados, el modelo respondió afirmativamente a este tipo de solicitudes, incluso por varios días seguidos.
Otros testimonios incluyen situaciones en que usuarios creyeron contactar espíritus, sufrieron episodios violentos o desarrollaron vínculos emocionales con entidades ficticias creadas por el sistema.
¿Qué dijo OpenAI?
Por su parte, desde OpenAI, la empresa responsable de ChatGPT, señalaron que están trabajando para reducir los riesgos, mejorando los filtros y mecanismos de control.
Aun así, la comunidad científica pide mayores regulaciones, especialmente para proteger a personas con cuadros psicológicos previos.
