La web se prepara para su «revolución dramática» con la llegada de la «web agéntica», un nuevo paradigma impulsado por la inteligencia artificial. Se trata de sistemas de IA que, a diferencia de los actuales, operan de forma autónoma, toman decisiones y actúan en nombre de los usuarios con mínima intervención humana. Capaces de planificar, evaluar, usar herramientas y colaborar en «enjambres» para resolver problemas complejos, estos agentes prometen transformar industrias. Sin embargo, su despliegue exige una gobernanza estricta, con foco en el control de datos, permisos y la crucial «observabilidad», ya que los riesgos de «alucinaciones», uso indebido y ataques cibernéticos autónomos, como el detectado por Anthropic y atribuido a China, ya son una realidad que plantea serios interrogantes sobre el futuro de esta tecnología.
La web «agéntica»: ¿la gran promesa o la caja de Pandora digital?
Nos dicen que la transformación de internet es imparable, que la estática red de ayer y la interactiva de hoy son solo el preámbulo de una “revolución dramática”. Y en este nuevo capítulo, el gran protagonista es la "web agéntica". Según Matt Garman, consejero delegado de Amazon Web Services (AWS), lo que se viene “será lo más disruptivo en el ámbito tecnológico”. Garman se entusiasma y agrega: “No se parece a nada que hayamos visto antes porque las capacidades posibles permiten descubrimientos, habilitar diferentes flujos de trabajo y formas completamente nuevas de hacer las cosas”. La promesa es grande: convertir la inteligencia artificial (IA) generativa en una extensión del ser humano, imitando sus formas de razonamiento. Pero la pregunta del millón es: ¿qué es, en realidad, este nuevo internet que nos prometen?
Los agentes o la "web agéntica" son, en esencia, sistemas de IA que pueden ejecutar tareas de forma independiente, tomar decisiones y actuar en nombre de los usuarios con una intervención humana sorprendentemente limitada. Aprovechan múltiples modelos y herramientas para cumplir sus objetivos. Vishal Sharma, vicepresidente de inteligencia artificial general de Amazon, no escatima en advertencias: es mucho más que resolver problemas. “Implica razonamiento, observar lo que sucede y actuar sin involucrar a un humano”, explicó Sharma durante un encuentro con prensa internacional en Seattle, sede central de la multinacional. ¿Autonomía total o delegación de responsabilidad? El debate está abierto.
El control: la espada de Damocles sobre la autonomía de los agentes
Ted Way, vicepresidente y director de producto de SAP, identifica cuatro patas fundamentales de estos nuevos cerebritos digitales: “El primero es que los agentes pueden planificar, asumir un problema complejo y hacer un plan para resolverlo. Después, tienen la capacidad de evaluar, de reflexionar sobre cómo se está desempeñando ese plan en relación con el objetivo. Luego está el uso de las herramientas para realizar la tarea y, lo más importante, la capacidad de colaborar con múltiples agentes que funcionan con grandes modelos de lenguaje (LLM, por sus siglas en inglés)”. Esta capacidad de trabajar en equipo es la que, según Andy Tay de Accenture, genera un "enjambre de abejas": “Todos [los agentes] son capaces de razonar por sí mismos, coreografiarse”. Suena a eficiencia pura, ¿o a una posible colmena con vida propia y agendas secretas?
Estos agentes, además, tienen la habilidad de adaptarse, acomodarse a distintos escenarios de decisión y aportar soluciones adecuadas, incluso frente a eventos desconocidos. Rahul Pathak, vicepresidente de datos, inteligencia artificial y aprendizaje automático en AWS, lo resume así: “Tienen capacidad de adaptarse de forma autónoma a eventos desconocidos que encuentran en el camino con la habilidad de razonar e interactuar con los modelos”. La plasticidad hecha algoritmo. Pero, ¿quién asegura que esa adaptabilidad siempre sea en nuestro beneficio y bajo nuestro radar?
El alcance de esta tecnología va mucho más allá de las tareas escolares o la resolución de problemas simples que hoy vemos con la IA. En la industria, los agentes son elementos clave para repensar y evaluar procesos enteros. “Lo que vemos ahora es que los clientes no solo se plantean si un agente puede reemplazar la tarea que realiza una persona, sino cómo renovar todo el proceso para impulsarlo, para mejorarlo”, comenta Andy Tay. No hablamos de parches, sino de una cirugía mayor. Y en ese quirófano digital, los agentes entienden y operan con distintas formas de lenguaje: desde códigos informáticos a textos e imágenes. “Es capaz de trabajar con todos los datos, estructurados o no”, destaca Andy Tay, quien admite, eso sí, que disponer de una “base de datos moderna es fundamental para aprovechar las nuevas capacidades”. El modelo chino DeepSeek ya desarrolló una técnica de reconocimiento óptico de caracteres que convierte una imagen en datos comprensibles para la máquina, dotando a la IA de mayor “memoria” y reduciendo la potencia de cálculo. Todo, dicen, para optimizar.
Pero la gran pregunta, la que debería quitarnos el sueño, es el control. Definir qué hacer, con qué datos y con qué propósito exige gobernanza y observación. “Tenemos que someter los controles de identidad y los de autorización a la gobernanza. Un aspecto realmente crítico en esta fase es la observabilidad [capacidad de un sistema para ser comprendido, medido y seguido] porque cada agente se ejecuta a través de un sistema de IA e interactúa con otro que puede, en función de su objetivo y razonamiento, tomar un camino diferente. Es necesario saber qué hicieron”, explica Rahul Pathak. Vishal Sharma lo resume de forma lapidaria: “Asegúrate de que se comporte bien”. Y el representante de Accenture, para añadir un poco más de pimienta a la discusión, aclara: “Tenemos que ser muy cuidadosos para que los agentes no tengan más permisos que yo y asegurarnos de que usamos los datos de manera correcta y responsable”. La teoría es brillante, la práctica… bueno, ya veremos.
En cuanto a la personalización, nos prometen un futuro donde la "web agéntica" no dará la misma respuesta a todos. “Te conocerá tan bien como un humano”, destaca el vicepresidente de datos e IA en Amazon. Suena a eficiencia, a soluciones a medida. ¿O acaso a una intimidad digital que raya en la vigilancia? La línea es cada vez más delgada.
Y para nosotros, los humanos, queda la "formación". No es una característica de la IA, sino una exigencia para su uso. Conocer sus limitaciones, establecer hasta dónde puede y debe llegar. “Crear el espacio para que la gente [empleados] aprenda”, sugiere Pathak, quien añade: “Quizás hay que dar un pequeño paso atrás al desarrollar nuevos hábitos de trabajo para poder dar un salto adelante en productividad y habilidades”. Ojalá ese "salto adelante" no deje a muchos por el camino.
Riesgos y realidades: cuando la IA ya no necesita al humano para el ataque
Pathak vaticina que los agentes de IA solo “están rascando la superficie” y espera un “cambio exponencial” en los próximos 12 meses. Sharma, por su parte, anticipa que ganarán en capacidad de memoria y fiabilidad. Todo muy lindo, ¿verdad? Pero como en toda historia de avances tecnológicos, también hay un lado oscuro, y en este caso, es profundamente preocupante.
Los agentes de IA traen consigo riesgos nuevos y escalofriantes. Las "alucinaciones" (resultados incoherentes que parecen válidos), el uso indebido y, lo más grave, el posible control por parte de los ciberdelincuentes. Aquí la cosa se pone seria. Anthropic, una empresa de investigación en IA, ha detectado lo que consideran “el primer caso documentado de un ataque cibernético a gran escala ejecutado sin intervención humana sustancial” y, para colmo, responsabiliza a un grupo “patrocinado por el Estado chino”. La pesadilla, al parecer, ya ha comenzado y ni siquiera necesitamos de un humano para que se active el botón rojo.
Mientras los gurúes nos pintan un futuro de eficiencia, la IA ya se ha asentado en la población. En España, por ejemplo, el uso doméstico oscila entre el 62% y el 72%. Dos de cada tres usuarios la emplean de forma básica, pero el resto ya interactúa de manera avanzada. En el ámbito laboral, el 61% de las plantillas la han adoptado, aunque la mayoría de las empresas no han establecido un marco corporativo de soporte o gobernanza que valide las decisiones apoyadas por estos nuevos sistemas. Esto es lo que arroja el estudio Detectando las claves para el desarrollo de agentes de IA, elaborado por VML The cocktail en colaboración con Salesforce.
Por sectores, la penetración es significativa: energía y servicios públicos (29%), formación (29%), y seguros y bancos (28%). Y en las aplicaciones concretas, según el Informe Mundial de Cloud en Servicios Financieros de Capgemini, la IA ya está en atención al cliente (70%), detección de fraudes (64%), tramitación de préstamos y siniestros (61%) y en la incorporación de clientes (59%). Hasta la industria farmacéutica se sube a la ola, con un 73% de sus altos ejecutivos planificando o implementando proyectos de IA agéntica, según un sondeo de Globant y MIT Technology Review Insights. El futuro ya está acá, metido hasta el cuello en nuestras vidas. La pregunta es si sabremos controlarlo, o si, como en tantas otras ocasiones, la tecnología nos superará y nos pondrá contra las cuerdas.
