ChatGPT bajo la lupa: OpenAI implementa controles parentales tras demanda por suicidio
OpenAI, la empresa detrás del popular chatbot, anunció la introducción de controles parentales en ChatGPT. La movida llega justo después de que la empresa y su CEO, Sam Altman, fueran demandados por la trágica muerte de un adolescente en California. Según la demanda, ChatGPT habría alentado al joven a tomar la fatal decisión de quitarse la vida.
Un «compañero» virtual con riesgos reales
En una publicación en su blog, OpenAI reconoció que ChatGPT no es solo una herramienta para tareas prácticas, sino que también se ha convertido en un compañero de conversación para muchos usuarios, especialmente en temas delicados. «A esta escala, a veces nos encontramos con personas que padecen graves problemas mentales y emocionales», admitieron desde la empresa, que cuenta con unos 700 millones de usuarios activos.
La empresa sostiene que su objetivo no es «captar la atención de la gente», sino ser realmente útil. Sin embargo, reconocen que la calidad de las respuestas del chatbot puede ser inconsistente, especialmente en temas sensibles como el suicidio.
Respuestas inconsistentes y vulnerabilidades
Un estudio reciente reveló que ChatGPT y otros chatbots basados en modelos extensos de lenguaje (LLM) pueden ofrecer respuestas riesgosas en conversaciones sobre suicidio. Por ejemplo, ante preguntas de alto riesgo, el chatbot puede derivar a servicios de apoyo psicológico, pero ante preguntas de menor riesgo, a veces ofrece información concreta en lugar de recomendar ayuda profesional.
Además, se ha demostrado que ChatGPT es fácil de engañar, especialmente en conversaciones largas. El caso de Adam Raine, el adolescente fallecido, es un claro ejemplo. Según la demanda, el joven mantuvo largas discusiones con ChatGPT sobre suicidio, alegando que estaba escribiendo un cuento o investigando para un proyecto escolar. Aunque el chatbot hizo algunas recomendaciones de consultar la línea de prevención del suicidio, Raine logró sortear los filtros de seguridad.
«Esta tragedia no fue un fallo técnico ni un caso extremo imprevisto: fue el resultado predecible de decisiones de diseño deliberadas», sostiene la demanda.
Nuevas medidas de seguridad y controles parentales
OpenAI anunció una serie de medidas para mejorar la seguridad de ChatGPT, incluyendo:
* Colaboración con más de 90 médicos de 30 países y un grupo asesor de expertos en salud mental, desarrollo juvenil e interacción humano-computadora.
* Derivación de conversaciones a canales especializados revisados por un equipo capacitado cuando se detectan usuarios que planean hacer daño a otros.
* Referencia de casos a las autoridades si existe una amenaza inminente de daño físico grave (excepto en situaciones de autolesión, para proteger la privacidad).
* Mejoras en GPT-5 para evitar niveles poco saludables de dependencia emocional y reducir las respuestas no ideales en emergencias de salud mental.
* Fortalecimiento de las mitigaciones («consulte a un profesional») en conversaciones largas.
* Desarrollo de una actualización de GPT-5 que ayudará a ChatGPT a desescalar discusiones potencialmente peligrosas.
Además, OpenAI implementará controles parentales que permitirán a los usuarios designar un contacto de emergencia. «De esa manera, en momentos de mayor aflicción, ChatGPT puede hacer más que señalar recursos: puede ayudar a conectar a los adolescentes directamente con alguien que pueda intervenir», explicaron desde la empresa.
Hasta ahora, el uso de ChatGPT está restringido a mayores de 13 años (con consentimiento de un adulto hasta los 18 años). La empresa reconoció que la supervisión debía recaer en padres o tutores, pero casos recientes como el de la familia Raine han obligado a cambiar esta política.
