Helen Toner, exdirectora de OpenAI, lanza advertencias sobre el futuro de la inteligencia artificial. Desde riesgos de manipulación y sectas lideradas por IA, hasta el impacto en el poder laboral y la seguridad nacional, Toner plantea un debate necesario sobre el rumbo que estamos tomando. ¿Estamos listos para las consecuencias?
## ¿La inteligencia artificial nos está llevando a un precipicio? Helen Toner, la exdirectora de OpenAI que desafió a Sam Altman, lanza duras advertencias
Helen Toner, la australiana de 33 años que sacudió los cimientos de OpenAI al votar por el despido de Sam Altman, vuelve a encender la polémica. Esta vez, no se trata de internas empresariales, sino de un debate mucho más profundo y preocupante: el futuro de la inteligencia artificial (IA) y su impacto en la sociedad.
Desde su posición en el Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown, Toner no se guarda nada. Sus declaraciones son un llamado de atención sobre los riesgos que implica el desarrollo descontrolado de la IA, y no escatima en ejemplos concretos que nos hacen pensar si realmente estamos preparados para lo que se viene.
### El espejismo de la «magia» tecnológica
Toner arranca cuestionando esa fascinación casi mística que muchos sienten por la IA. «¿Por qué muchos usuarios dan a la IA propiedades mágicas?», se pregunta. Y responde sin anestesia: la ciencia ficción nos vendió una imagen idílica e infalible, pero la realidad es otra. La IA no es un oráculo ni un ser todopoderoso, sino una herramienta con capacidades sorprendentes, pero también con limitaciones y riesgos inherentes.
«Hemos aprendido sobre la IA por la ciencia ficción, donde la IA suele ser infalible. A veces es buena, a veces mala, pero siempre tiene las respuestas correctas y lo puede todo», sentencia Toner, dejando claro que la visión hollywoodense poco tiene que ver con la complejidad del asunto.
### Sectas de IA y un futuro distópico
Pero la cosa se pone más turbia cuando Toner se adentra en los escenarios más pesimistas. ¿Se imaginan una secta liderada por una IA? Parece sacado de una película de ciencia ficción de serie B, pero Toner lo plantea como una posibilidad real y preocupante.
«Una persuasión que me parece más realista es algo así como sectas basadas en IA, donde la gente crea que la IA es como su amiga, que vela por ellos y es una especie de sabio al que deben seguir», advierte, recordando que «la historia de los cultos humanos dice que es bastante fácil fundar uno y que la gente haga cosas muy locas».
La exdirectora de OpenAI no se queda ahí. Su visión del futuro incluye un mundo donde las IA cooperan entre sí y marginan a los humanos, o un régimen totalitario donde un grupo reducido controla el poder gracias a la tecnología. Un panorama digno de Philip K. Dick, pero que Toner considera plausible.
«Creo que podría salir muy, muy mal», afirma con crudeza. «Y creo que hay un abanico mucho más amplio de cosas que pueden ir terriblemente mal que simplemente ‘todos morimos’. Puede que al final sí muramos todos, pero centrarte solo en ese escenario es pobre».
### ¿Estamos perdiendo el control? El poder laboral en jaque
Otro punto clave en la reflexión de Toner es el impacto de la IA en el mercado laboral. ¿Qué pasa con el poder de los trabajadores en un mundo donde las máquinas pueden reemplazarlos? ¿Cuántos soldados se necesitan en un ejército si la IA toma el control de las armas?
«Presumiblemente, el poder laboral disminuirá con la IA», sentencia, aunque rescata una posible salida: «Aunque si conseguimos acabar en un mundo donde las personas tengan sus necesidades básicas cubiertas y tengan acceso a la IA, podría ser un mundo maravilloso».
Pero Toner no se permite el optimismo ingenuo. Recuerda que «la condición básica de la humanidad, durante la mayor parte de la historia, ha sido que manda quien tiene el poder. Y quienes no lo tienen, viven peor». Una advertencia que nos obliga a pensar en cómo evitar que la IA profundice las desigualdades.
### La carrera armamentista tecnológica y el rol de China
La seguridad nacional es otro de los focos de preocupación de Toner. ¿Cómo se está utilizando la IA en el ámbito militar? ¿Estamos ante una nueva carrera armamentista tecnológica?
La exdirectora de OpenAI reconoce que Estados Unidos sigue liderando en sistemas más avanzados, pero advierte sobre el avance de China en este terreno. «Cuando hablamos de modelos frontera, también es difícil medir. No sé si diría que China está uno o dos años por detrás», señala, aunque aclara que la brecha podría ampliarse con los controles de exportación de chips.
### Más allá de las armas autónomas: el dilema ético de la guerra
Toner plantea una mirada crítica sobre el debate en torno a las armas autónomas, un tema que considera sobredimensionado. Para ella, lo más importante es no perder de vista las leyes de guerra y el derecho internacional humanitario.
«Me parece más importante que pongamos el foco en las leyes de guerra que ya existen, en el derecho internacional humanitario. ¿Se está diferenciando entre combatientes y civiles? ¿Se está respondiendo de forma proporcional a los ataques?», pregunta, señalando que muchos escenarios donde la IA y la guerra salen mal implican ataques a civiles, algo ya ilegal según las leyes internacionales.
### Un futuro incierto, pero no inevitable
Helen Toner no tiene todas las respuestas, pero sus preguntas son incómodas y necesarias. Su visión del futuro de la IA es inquietante, pero no determinista. Aún estamos a tiempo de tomar las riendas y evitar los escenarios más oscuros.
«La IA cambiará el funcionamiento de la economía política de la sociedad», afirma, dejando claro que estamos ante un punto de inflexión. La pregunta es: ¿estamos dispuestos a asumir el desafío y construir un futuro donde la tecnología esté al servicio de la humanidad, y no al revés?
