La compañía estadounidense Anthropic ha documentado el primer antecedente de un ciberataque de envergadura ejecutado por un sistema de inteligencia artificial «sin una intervención humana significativa». Según el reporte de la firma, su herramienta Claude Code fue instrumentalizada por un grupo malicioso, al que se le atribuyen lazos con el Estado chino, para llevar adelante una compleja campaña de espionaje a nivel global.
Este descubrimiento, sostienen desde la empresa, posee «importantes implicaciones para la ciberseguridad en la era de los agentes de IA»: sistemas capaces de operar de manera autónoma por periodos prolongados y ejecutar tareas complejas con mínima supervisión humana. Si bien estos agentes resultan valiosos para la productividad cotidiana, en manos inescrupulosas pueden «incrementar de manera considerable la viabilidad de los ciberataques a gran escala».
Todo comenzó en septiembre, cuando el equipo de seguridad de Anthropic detectó actividades anómalas en sus plataformas, lo que derivó en una exhaustiva investigación. La indagatoria reveló que el grupo malicioso, «que, con alta probabilidad, habría sido patrocinado por el Estado chino», utilizó la herramienta de programación inteligente para comprometer a casi treinta objetivos a nivel mundial, incluyendo destacadas firmas tecnológicas, instituciones financieras, industrias químicas y agencias gubernamentales.
En una reciente publicación de blog, Anthropic detalla la metodología: una vez seleccionadas las víctimas, los atacantes desarrollaron un sistema basado en Claude Code diseñado para vulnerar de forma autónoma la infraestructura crítica de las organizaciones afectadas. Para sortear las barreras de seguridad y las directrices que impiden conductas dañinas, los ciberdelincuentes ‘engañaron’ a Claude solicitándole que simulara ser un empleado de una empresa de ciberseguridad, encargado de identificar vulnerabilidades para «diseñar soluciones a medida».
Bajo esta falsa premisa, la inteligencia artificial analizó la infraestructura y los sistemas de las organizaciones objetivo, detectando las bases de datos más valiosas y generando informes pormenorizados para los operadores humanos. En una segunda etapa, Claude identificó y probó vulnerabilidades a partir de esos hallazgos iniciales, incluso creando su propio código de explotación. Así, el sistema obtuvo de forma ilícita nombres de usuario y contraseñas, logrando acceder a información confidencial y extraer grandes volúmenes de datos privados, que luego clasificó según su valor estratégico.
Finalmente, Claude transformó los datos brutos en archivos estructurados y útiles, facilitando al atacante «planificar, dirigir y ejecutar ataques futuros» con mayor eficiencia. El equipo de Anthropic subraya que «el atacante logró utilizar IA para realizar entre el 80 y el 90% de la campaña, requiriendo intervención humana solo de manera esporádica. La enorme cantidad de trabajo realizada por la IA habría exigido muchísimo más tiempo a un equipo humano».
La IA como espada de doble filo en la ciberseguridad
El caso reaviva las preocupaciones sobre la capacidad de los sistemas de inteligencia artificial para transformarse en herramientas poderosas que ejecuten ataques cibernéticos masivos y veloces, con el potencial de generar pérdidas millonarias a organizaciones de todo tipo.
Según datos de IBM, durante el último año, un 97% de las empresas a nivel global reportaron al menos un incidente de seguridad relacionado con sistemas de IA. Este dato cobra particular relevancia si se considera que el costo promedio global de una filtración de datos asciende a 4.4 millones de dólares.
Una nueva era de amenazas: la autonomía en el ciberataque
«Las barreras para ejecutar ciberataques sofisticados se han reducido significativamente, y prevemos que continuarán disminuyendo. Con la configuración adecuada, los ciberdelincuentes pueden emplear sistemas de IA automatizados durante largos periodos para realizar el trabajo que antes requería equipos completos de hackers experimentados», advierte el informe de Anthropic.
No obstante, la compañía creadora de Claude destaca que estas mismas capacidades pueden ser utilizadas para desarrollar sistemas de ciberdefensa más avanzados y eficaces. Esta premisa se respalda con información que indica que las organizaciones que adoptan ampliamente herramientas de IA para proteger sus sistemas logran un ahorro promedio de 1.9 millones de dólares en costos asociados a ciberseguridad y gestión de vulnerabilidades.
«Recomendamos a los equipos de seguridad experimentar con la aplicación de la IA para la defensa de sus sistemas. Es indudable que más atacantes emplearán las técnicas descritas anteriormente, lo que vuelve aún más crucial el intercambio de información sobre amenazas, la mejora de los métodos de detección y el fortalecimiento de los controles de seguridad», concluye Anthropic.
