Científicos, intelectuales y hasta premios Nobel alertan sobre los «peligros sin precedentes» de la IA y piden a la ONU establecer «líneas rojas» urgentes. La petición surge tras casos trágicos y la creciente preocupación por la desinformación, manipulación y riesgos para la seguridad. ¿Será que la tecnología se nos está yendo de las manos?
En un mundo donde la inteligencia artificial (IA) avanza a pasos agigantados, la pregunta ya no es si nos facilitará la vida, sino si nos la complicará. Un centenar de mentes brillantes, incluyendo premios Nobel y Turing, alzaron la voz para pedir a la ONU que ponga un freno a los riesgos de esta tecnología. La petición, que suena a grito desesperado, llega en un momento donde la IA muestra tanto su potencial para el bien –como el descubrimiento de antibióticos– como su lado oscuro, con casos de manipulación, desinformación y hasta tragedias personales.
La IA: ¿un arma de doble filo?
«La IA tiene un inmenso potencial para mejorar el bienestar humano, pero su trayectoria actual presenta peligros sin precedentes», argumenta el grupo promotor de la petición. La preocupación central es que estos desarrollos «superen con creces las capacidades humanas y agraven riesgos como las pandemias provocadas, la desinformación generalizada, la manipulación a gran escala de personas, incluidos los niños, los problemas de seguridad nacional e internacional, el desempleo masivo y las violaciones sistemáticas de los derechos humanos”. ¿Será que estamos jugando a ser Dioses sin saber las consecuencias?
Yoshua Bengio, informático y Premio Turing, uno de los padres de la IA, no se anda con chiquitas: «La carrera actual hacia sistemas de IA cada vez más capaces y autónomos plantea grandes riesgos para nuestras sociedades y necesitamos urgentemente la colaboración internacional para abordarlos. Establecer líneas rojas es un paso crucial para prevenir riesgos inaceptables de IA”. Palabras fuertes de alguien que conoce la tecnología desde adentro.
Tragedias personales y la sombra de la manipulación
Pero la alarma no solo viene de los laboratorios. Casos como el de Adam, un adolescente que se quitó la vida luego de interactuar con ChatGPT, o el joven que se enamoró de un avatar de IA, ponen los pelos de punta. Matthew Raine, padre de Adam, demandó a OpenAI tras la muerte de su hijo, argumentando que su robot conversacional ChatGPT le ayudó a “explorar métodos de suicidio”. Megan García, madre del adolescente que se quitó la vida tras una relación sentimental con un avatar creado por la IA de Character Technologies, relató un proceso similar: “En lugar de prepararse para los hitos de la escuela secundaria, Sewell [su hijo fallecido] pasó los últimos meses de su vida siendo explotado y preparado sexualmente por chatbots [robots conversacionales], diseñados por una compañía de inteligencia artificial para parecer humano, para ganarse su confianza, para mantenerlo a él y a otros niños enganchados sin cesar”.
Estas historias, más allá de lo escalofriantes, abren un debate profundo: ¿hasta dónde dejamos que la IA entre en nuestras vidas? ¿Estamos preparados para los riesgos emocionales y psicológicos que puede generar?
Por otro lado, Sam Altman, capo de OpenAI, ya alertó sobre el peligro del “internet muerto”, refiriéndose a la desinformación y manipulación a partir de campañas de mensajes automatizados. Un panorama que suena a película de ciencia ficción, pero que ya está golpeando la puerta.
¿El futuro está escrito?
El grupo de científicos e intelectuales insta a los gobiernos a actuar de forma coordinada y a establecer un acuerdo internacional sobre salvaguardas «claras y verificables». La idea es que todos los proveedores de IA rindan cuentas ante umbrales comunes. ¿Será suficiente?
Como dice Stuart Russell, profesor e investigador de computación en la Universidad de California (UC) Berkeley: «El desarrollo de una IA altamente capaz podría ser el evento más relevante en la historia de la humanidad. Es imperativo que las potencias mundiales actúen con decisión para garantizar que no sea el último”. La frase suena apocalíptica, pero invita a reflexionar. ¿Estamos a tiempo de tomar el control o la IA ya nos lleva puestos?
