OpenAI reveló que miles de usuarios de ChatGPT muestran señales de crisis mental
A través de un comunicado, la empresa prometió crear medidas y que el tema “se toma muy en serio”.
Imagen referencial / Keeproll
La compañía detrás de ChatGPT, OpenAI, reveló por primera vez estimaciones sobre usuarios que muestran posibles signos de emergencias de salud mental, como psicosis, manía o pensamientos suicidas.
Según la empresa, 0,07% de los usuarios activos cada semana presentan señales compatibles con crisis mentales. Aunque parece una cifra baja, con más de 800 millones de usuarios semanales, podría equivaler a cientos de miles de personas.
Además, OpenAI estimó que 0,15% de las conversaciones incluye indicadores de planificación o intención suicida, lo que ha despertado preocupación entre expertos en salud mental.
Expertos alertan sobre riesgos
El investigador Jason Nagata, de la Universidad de California en San Francisco, señaló a la BBC que incluso porcentajes pequeños pueden implicar un gran número de personas.
Mientras que, Robin Feldman, directora del Instituto de Derecho e Innovación en IA de la misma universidad, advirtió que los chatbots “pueden crear una poderosa ilusión de realidad” y que las advertencias no siempre bastan para quienes están en riesgo.
Cabe destacar que, los datos se publican mientras la empresa enfrenta demandas por presuntos daños psicológicos. Por ello, ante las críticas, OpenAI reconoció al medio mencionado que el tema “se toma muy en serio”.