OpenAI, ChatGPT y la salud emocional de los usuarios
OpenAI, la empresa detrás de ChatGPT, se ha puesto el cinturón de seguridad ante los posibles efectos adversos de la inteligencia artificial en la salud mental de los usuarios. La compañía, que ha visto cómo sus creaciones se convierten en compañeros virtuales para millones, reconoce que el uso desmedido de estas herramientas podría generar adicción y otros problemas psicológicos.
Medidas preventivas: Un llamado a la reflexión y al descanso
La firma liderada por Sam Altman anunció una serie de medidas destinadas a promover un uso más saludable de ChatGPT y otros productos. Entre ellas, se destaca la implementación de sistemas capaces de detectar señales de angustia mental en las conversaciones, lo que permitirá al chatbot ofrecer respuestas más adecuadas y, en caso necesario, derivar al usuario a recursos de apoyo.
“Cuando preguntas algo como ‘¿Debería terminar con mi novio?’, ChatGPT no debería ofrecer una respuesta categórica. En su lugar, debería ayudarte a reflexionar: plantear preguntas, evaluar pros y contras”, ejemplificó la publicación de OpenAI, marcando un giro en el enfoque de la interacción.
Además, se implementarán notificaciones para invitar a los usuarios a tomar descansos durante sesiones prolongadas, buscando cortar lazos de dependencia. La empresa aún está “ajustando cuándo y cómo aparecen para que resulten naturales y útiles”, agregaron, como si un «¡Che, tomate un mate!» virtual fuera lo más natural del mundo.
Colaboración con expertos: Un enfoque multidisciplinario
Consciente de la complejidad del tema, OpenAI está trabajando “estrechamente” con más de 90 especialistas en salud de diversas disciplinas, como psiquiatría y pediatría, en más de 30 países. El objetivo es crear rúbricas personalizadas para evaluar conversaciones complejas y garantizar que las respuestas de la IA sean lo más seguras y útiles posible.
La empresa también colabora con investigadores en la interacción persona-computadora (HCI) y está conformando un grupo asesor con expertos en salud mental y desarrollo juvenil para asegurar que su estrategia se alinee con las últimas investigaciones y políticas en la materia. Una movida inteligente, considerando que los algoritmos, por más sofisticados que sean, no saben lo que es tomarse un buen vino al sol.
