SALUD MENTAL
OpenAI informó que aproximadamente 1,2 millones de personas cada semana envían mensajes en ChatGPT que muestran posibles señales de intención o planificación suicida. Esto equivale a cerca del 0,15% de los usuarios activos semanales, según el análisis realizado por la compañía.
El CEO de OpenAI, Sam Altman, señaló que ChatGPT cuenta con 800 millones de usuarios semanales, lo que subraya la magnitud del alcance de estas conversaciones y la importancia de contar con protocolos de seguridad adecuados.
Colaboración con especialistas en salud mental
Para garantizar que las respuestas sean claras y seguras, OpenAI se ha aliado con casi 300 profesionales, entre médicos y psicólogos de 60 países, de los cuales más de 170 participaron directamente en actividades como:
- Redacción de respuestas adecuadas sobre salud mental
- Evaluación de contenido generado por la IA
- Supervisión de seguridad y asesoramiento sobre interacciones delicadas
El objetivo es que la inteligencia artificial fomente la conexión con el mundo real, evitando reemplazar las relaciones humanas y abordando de manera empática situaciones de riesgo o creencias delirantes.
Además del riesgo suicida, la empresa identificó que alrededor del 0,07% de los usuarios semanales presentan posibles signos de psicosis o manía, mientras que 0,15% podrían mostrar niveles altos de apego emocional a la IA.
OpenAI distingue entre un uso saludable de la herramienta y patrones preocupantes, en los que la persona depende excesivamente de la IA, descuidando su bienestar o relaciones interpersonales. Para estos casos, los modelos han sido entrenados para recomendar interacciones con personas reales y buscar ayuda profesional.
Estrategias para un uso seguro de ChatGPT
La compañía explicó que, ante mensajes que expresan preferencia por la IA sobre las personas, el sistema responde promoviendo la interacción social y el bienestar emocional, sin afirmar creencias infundadas.
Estas medidas forman parte de un enfoque global de seguridad y prevención que busca reducir riesgos de autolesiones y emergencias de salud mental, mientras se mantiene la utilidad de la inteligencia artificial como herramienta de información y apoyo.
