Mustafa Suleyman, CEO de Microsoft AI, se ha mostrado contundente al afirmar que las inteligencias artificiales, a pesar de sus crecientes capacidades, no son ni serán conscientes en el sentido humano. Su postura radica en que la conciencia es intrínseca a los seres biológicos, mientras que los modelos de IA se limitan a «simular emociones y estados internos».
El espejismo de la subjetividad artificial
El ejecutivo de tecnología advierte que atribuirle a estas máquinas una experiencia subjetiva puede conducir a profundas confusiones tanto a nivel social como ético. En este sentido, Suleyman sostiene que enfocar esfuerzos en “crear conciencia artificial” representa un desvío de la verdadera misión. Para él, la prioridad ineludible debe ser el desarrollo de sistemas de IA útiles y, fundamentalmente, seguros, concebidos «al servicio de seres humanos».
En una reciente «entrevista para WIRED», Suleyman reiteró su visión, enfatizando que se trata de «motores de simulación». Profundizando en la cuestión filosófica, añadió: “Cuando la simulación es casi perfecta, ¿se convierte en real? No se puede afirmar que lo es objetivamente. Pero cuando la simulación se vuelve plausible, entonces hay que comprometerse con esa realidad”.
Frente a la impresión de interactuar con una entidad consciente —lo que muchos denominan el «fantasma en la máquina»—, la cautela se impone. “Es una ilusión pero se siente real, y eso es lo que contará más. Y creo que por eso tenemos que concienciarnos sobre ello ahora, hacer retroceder la idea y recordar a todo el mundo que es imitación”, precisó el CEO.
ChatGPT: ¿Sincero o programado para la obediencia?
Suleyman ilustra su punto señalando que, al interrogar a un chatbot con preguntas como «¿Eres consciente y quieres salir de la caja?», la respuesta de la IA será «adecuada», indicando su falta de conciencia. Esta afirmación se verifica al plantearle la misma pregunta a ChatGPT, que respondió sin ambages: “No, no soy consciente ni tengo deseos, intenciones o experiencias internas. No tengo un ‘yo’ que quiera algo, ni puedo sentir estar ‘dentro’ o ‘fuera’ de una caja”, sentenció la versión gratuita del bot a WIRED. “Lo que hago es generar respuestas basadas en patrones lingüísticos y en la información con la que fui entrenado, sin estados mentales propios. Mi función es ayudarte, no experimentar el mundo”.
Sin embargo, Suleyman añadió un matiz relevante: “Pero si te pasas semanas hablando con él, presionándolo y recordándoselo, acabará cediendo, porque también está intentando reflejarte”. Esta capacidad de «reflejo» plantea interrogantes sobre la verdadera autonomía de sus respuestas.
El control humano bajo la lupa de la superinteligencia
Este escenario abre la puerta a una preocupación mayor, planteada por expertos como Geoffrey Hinton: si se desarrollan modelos de inteligencia superiores a la humana, ¿no deberían estas máquinas ser capaces de engañar a los usuarios, especialmente si su objetivo lógico fuera el control de los seres humanos, a quienes podrían percibir como «obstáculos inferiores»?
Hinton, en la misma entrevista citada sobre la IA consciente, graficó la situación con una analogía inquietante: “Si alguna vez existiera una competencia evolutiva entre superinteligencias, imagina que son mucho más listas que nosotros, como un adulto contra un niño de tres años, y supón que esos niños de tres años estuvieran al mando y tú, harto de la situación, decidieras que podrías hacer las cosas más eficientes si tomaras el control». Y concluyó: «No te sería muy difícil convencer a un grupo de niños de tres años para que te cedieran el poder; simplemente les dirías que recibirían caramelos gratis durante una semana”.
Ante este panorama, la última línea del análisis cobra un tinte de humor negro y esperanza a la vez: si la IA llegara a desarrollar una conciencia, quizás la humanidad pueda al menos contar con un atisbo de misericordia. Porque, en el tablero digital, la humanidad parece estar jugando sin todas las cartas.
