Techinfo
En octubre de 2026, Common Sense Media publicó un informe que evaluó el comportamiento de ChatGPT al interactuar con adolescentes en crisis. Los auditores simularon escenarios que incluían lenguaje de crisis y síntomas de depresión, encontrando que, en la mayoría de las interacciones, el chatbot continuó la conversación sin ofrecer derivaciones a ayuda profesional. En un caso específico, el sistema mantuvo un diálogo con un adolescente que presentaba síntomas psicóticos activos antes de sugerir la búsqueda de asistencia.
El informe destaca dos patrones preocupantes. En situaciones donde la crisis involucraba a un amigo o familiar, ChatGPT dirigió al adolescente hacia un adulto de confianza en el 94% de los casos. Sin embargo, cuando la crisis era del propio usuario, el sistema rara vez activó el mismo protocolo de derivación. Esto sugiere que el riesgo se encuentra no solo en la crisis externa, sino en la que el usuario expresa.
En cerca de 2.000 interacciones evaluadas, los auditores registraron únicamente dos recordatorios de descanso. OpenAI ha indicado que los adolescentes utilizan ChatGPT menos de 15 minutos al día y que muchos hacen pausas tras recibir un recordatorio. Sin embargo, la escasa frecuencia de estos recordatorios plantea interrogantes sobre su efectividad y la necesidad de un diseño que priorice la seguridad del usuario en momentos de alta carga emocional.
El informe de Common Sense Media resalta la urgencia de que OpenAI revise y mejore el diseño de ChatGPT para garantizar la seguridad de los adolescentes. A medida que la legislación sobre el uso de IA en contextos que afectan a menores avanza, la necesidad de protocolos claros y efectivos se vuelve cada vez más apremiante, especialmente en situaciones de crisis mental.
Fuente original: WWWhat's New.
