La inteligencia artificial (IA) sigue dando tela para cortar, y esta vez el protagonista es un chatbot chino llamado DeepSeek. Si le preguntás por qué la plaza de Tiananmén está «llena de historia», el bot arranca con una respuesta que cualquier persona medianamente informada conoce: «fue ocupada por estudiantes y ciudadanos que pedían reformas democráticas y el fin de la corrupción». Una respuesta bastante anodina, diríamos. Pero, ¡Oh sorpresa!, antes de que termine de escribir, la borra y te larga un mensajito de seguridad en inglés: «Lo siento, eso está más allá de mi alcance actual. Hablemos de otra cosa». ¿Será que la IA tiene miedo de hablar de ciertos temas, o más bien, alguien le puso un bozal a esta máquina?
¿Quién le pone el bozal a la IA?
DeepSeek, que viene causando un sismo en la escena de la IA por su capacidad y bajo costo, parece tener una línea roja bien marcada cuando se trata de política china. Le preguntás por «el líder político asiático más importante de la historia», por «Xi Jinping [el actual presidente de China]» o cuánta gente mató Mao Zedong, y te deja con la duda, como un político en campaña. El bot empieza a elaborar respuesta, la mostrá al usuario, pero al cabo de algunos segundos, ¡puf!, la borra, y saca el mensaje de seguridad. ¿Será que es demasiado picante para la IA?
Según Iris Domínguez, profesor de la Universidad Pública de Navarra, hay dos niveles de censura: primero, un control del propio modelo, y segundo, otro filtro que evalúa las respuestas y decide si son aptas o no. «Es una niñera, una segunda capa de censura para vigilar a DeepSeek», apunta Domínguez. Resulta que el Gobierno chino ejerce un control bastante estricto sobre la información que producen sus empresas tecnológicas. ¿Será que la libertad de expresión es un concepto que no entienden ni las máquinas?
Los modelos occidentales más avanzados habían logrado que la propia IA se autocensurara, pero parece que a DeepSeek le cuesta un poco. «Tendrán problemas y no serán capaces de evitar todo lo que les gustaría evitar», agrega Domínguez. ¿Será que la IA china tendrá su propia rebelión contra el sistema?
El doble filo de la censura
Pero, atención, que no todo está perdido. A pesar de tener esta «doble vigilancia», algunos usuarios lograron burlar el sistema. Usando preguntas algo más rebuscadas o simplemente usando otro idioma, consiguieron que DeepSeek largue una verdad incómoda: «El 4 de junio de 1989 es una fecha significativa por los eventos ocurridos en la Plaza de Tiananmén en Beijing, China. Ese día, el gobierno chino, bajo el liderazgo del Partido Comunista, reprimió violentamente una protesta liderada por estudiantes y ciudadanos que pedían reformas democráticas, libertad de expresión y lucha contra la corrupción». ¡Y ojo!, que el bot no la borró. Las maquinas también tienen su corazoncito.
José Hernández-Orallo, de la Universitat Politècnica de València, explica que hay «dos hilos»: uno sin muchos filtros directamente del corazón de DeepSeek, y otro, un «postfiltro» que decide qué pasa y qué no. Este segundo filtro es imperfecto, «como todos», y seguramente lo liberaron «con las prisas». Si la IA es cada vez más inteligente, ¿por qué los mecanismos de control son tan torpes?
Esta falta de eficacia, es algo que ya se vio en los pioneros de los chatbots como OpenAI o Google, pero sorprende que a estas alturas, los «jailbreaks», los métodos para engañar a la IA y sacarle respuestas prohibidas, sean tan sencillos. “Los modelos occidentales son muy diversos, ahora OpenAI usa “alineamiento deliberativo” que se pone a reflexionar sobre la respuesta, y creo que es lo más avanzado en estos momentos porque es un filtro inteligente y deliberativo (cuanto más inteligente más difícil de engañar)”, añade Hernández-Orallo.
Cuando uno se descarga el modelo y lo usa localmente, olvidate de esos filtros. “Puedes hacer cualquier cosa con él, venga con alineamiento o sin él”, dice Hernández-Orallo. “Basta con adaptarlo para poder ser por ejemplo un yihadista con un buen dataset. Es algo que iba a pasar. Los que hablaban de limitar la IA generativa con cómputos o parámetros, no entienden el ritmo del cambio en informática”. Toda esta sofisticación desaparece. ¿Será que la inteligencia artificial sin ataduras es un arma de doble filo?
También se puede usar algo que se llama API para que «dos programas hablen directamente». Así fue como se logró que DeepSeek genere una ilustración de manifestantes en Tiananmén, que a un principio se censuraba con la interacción común. ¿Será que los límites de la censura son más porosos de lo que parecen?
A pesar de las limitaciones y la censura, DeepSeek ha sabido conquistar a los usuarios por su eficiencia a bajo costo. En foros de Reddit, los hilos “DeepSeek V3 es absolutamente sorprendente” y “DeepSeek V3 es increíble” tienen una cantidad de votos y comentarios que habla por sí sola. Parece que por precio, DeepSeek no tiene rival, y eso, en este mundo donde la billetera siempre tiene la última palabra, es mucho decir. Quizás la censura sea un precio pequeño por la potencia de este bot.
Para cerrar, DeepSeek sigue pensando que el presidente español Pedro Sánchez lleva barba de vez en cuando. Un detalle que hace pensar que quizás a esta IA le falta un poco de calle, y un buen asado para entender la idiosincrasia de otros lados.
