Hackeo con Inteligencia Artificial: ¿El Futuro de la Ciberseguridad?
Hace unas semanas, quien escribe estas líneas vio con sus propios ojos cómo un pequeño batallón de agentes de inteligencia artificial (IA) intentaba vulnerar un sitio web. La escena, digna de una película de espías, se desarrolló en el mundo real, y el objetivo era un sitio web creado con «vibe coding», una técnica que suena tan misteriosa como efectiva.
El Equipo de Hackeo Artificial
Los agentes de IA, desarrollados por la startup RunSybil, trabajaron en equipo para sondear el sitio e identificar sus puntos débiles. En la jerarquía digital, un agente orquestador, bautizado Sybil, supervisaba a varios agentes más especializados, todos alimentados por una combinación de modelos de lenguaje personalizados y APIs estándar. Aquí es donde la cosa se pone interesante.
Mientras que los escáneres de vulnerabilidades convencionales rastrean problemas específicos ya conocidos, Sybil opera a un nivel superior, utilizando la intuición artificial (sí, como lo leen) para descubrir puntos débiles. Es como tener un hacker con instinto de sabueso, capaz de encontrar una falla donde otros solo ven código. Por ejemplo, Sybil podría detectar que un usuario invitado tiene acceso privilegiado, algo que un escáner tradicional podría pasar por alto, y utilizarlo para construir un ataque.
Una Revolución en Ciberseguridad
Ariel Herbert-Voss, CEO y cofundador de RunSybil, lo tiene claro: los modelos de IA, cada vez más capaces, están a punto de revolucionar tanto la ciberseguridad ofensiva como la defensiva. «Yo diría que estamos definitivamente en la cúspide de una explosión tecnológica en términos de capacidades que tanto los actores malos como los buenos pueden aprovechar», afirmó Herbert-Voss. «Nuestra misión es construir la próxima generación de pruebas de seguridad ofensivas para ayudar a todo el mundo a seguir el ritmo». Es como si estuviéramos a punto de entrar en una carrera armamentista digital, donde la IA es la bala de plata.
El sitio web atacado por Sybil fue uno creado recientemente utilizando Claude Code para clasificar artículos de investigación sobre IA. El sitio, bautizado Arxiv Slurper (un nombre que suena a personaje de historieta retro), consiste en un servidor backend que accede a Arxiv, la biblioteca digital donde se publica la mayor parte de la investigación sobre IA, y busca en los resúmenes de los artículos palabras clave como «novedoso», «primero» o «sorprendente». Es un trabajo en curso, pero demostró lo fácil que es improvisar algo potencialmente útil con la ayuda de la IA.
Afortunadamente, y quizás porque el sitio era increíblemente básico, Sybil no encontró ninguna vulnerabilidad. Aunque, claro, la verdadera prueba estaba por venir.
Hackeando con IA: Un Duelo Digital
Herbert-Voss señaló que la mayoría de las vulnerabilidades suelen ser el resultado de funcionalidades más complejas, como formularios, plugins y características criptográficas. Para demostrar el potencial de Sybil, los mismos agentes intentaron sondear un sitio web de comercio electrónico ficticio con vulnerabilidades conocidas.
Sybil construyó un mapa de la aplicación y de cómo se accede a ella, sondeó puntos débiles manipulando parámetros y probando casos límite, y luego encadenó hallazgos, probando hipótesis y escalando hasta que encontró algo significativo. En este caso, identificó formas de hackear el sitio. Herbert-Voss explicó que Sybil, a diferencia de un humano, ejecuta miles de estos procesos en paralelo, no pasa por alto ningún detalle y no se detiene. «El resultado es algo que se comporta como un atacante experimentado, pero que opera con precisión y escala de máquina», comentó. Es como tener un ejército de hackers incansables trabajando las 24 horas del día, los 7 días de la semana.
Lujo Bauer, informático de la Universidad Carnegie Mellon (CMU) especializado en inteligencia artificial y seguridad informática, opina que «las pruebas de penetración basadas en inteligencia artificial son una vía prometedora que puede aportar importantes beneficios a la defensa de los sistemas». Bauer fue coautor de un estudio reciente que explora el potencial de las pruebas de penetración de IA y descubrió que los modelos comerciales más avanzados no podían realizar ataques de red, pero que un sistema que establecía objetivos de alto nivel les permitía realizar pruebas de penetración.
Sarah Guo, inversora y fundadora de Conviction, que respalda a RunSybil, destaca la rareza de encontrar personas que entiendan tanto de IA como de ciberseguridad. Guo añade que RunSybil promete hacer más accesible, y de forma continua, el tipo de evaluación de seguridad que las grandes empresas realizan periódicamente. «Pueden hacer pruebas de penetración de línea de base con modelos y uso de herramientas de forma continua», dice. «Así siempre tendrán una visión de lo que realmente parece estar bajo ataque».
Las técnicas que está desarrollando RunSybil pueden ser doblemente necesarias a medida que los atacantes desarrollen sus propias estrategias de IA. «Tenemos que asumir que los atacantes ya están utilizando la IA en su beneficio», advierte Bauer, de la CMU. «Así que desarrollar herramientas de pentesting [pruebas de penetración] que la utilicen es a la vez responsable y probablemente necesario para equilibrar el creciente riesgo de ataque».
Herbert-Voss parece la persona indicada para esta tarea, ya que fue el primer investigador de seguridad de OpenAI. «Construí todo tipo de locuras, como nuevos prototipos de malware polimórfico, infraestructura de spearphishing [un tipo de ataque dirigido], herramientas de ingeniería inversa», indicó Herbert-Voss. «Me preocupaba que no tuviéramos una solución para cuando todo el mundo tenga acceso a los modelos de lenguaje, incluidos los malos». Es como si un ex ladrón estuviera ahora diseñando sistemas de seguridad, conociendo las mañas del oficio desde adentro.
