Dario Amodei, cofundador y CEO de Anthropic, puso un plazo concreto sobre uno de los escenarios más extremos asociados al avance de la inteligencia artificial: entre 6 y 12 meses. El empresario advirtió que una futura red de agentes autónomos con capacidades superiores podría llegar a comprometer grandes cantidades de infraestructura conectada a internet, mantener una botnet persistente y provocar pérdidas económicas de cientos de miles de millones de dólares.
La advertencia fue incluida en un documento publicado en septiembre de 2026 bajo el título “We Must Pace the Frontier”, en el que Amodei sostiene que la capacidad de los modelos está creciendo a un ritmo superior al de los mecanismos utilizados para estudiarlos, supervisarlos y contener sus riesgos.
El CEO de Anthropic no aseguró que ese escenario vaya a producirse inevitablemente ni afirmó que una inteligencia artificial controle actualmente internet. Lo presentó como un riesgo plausible si los sistemas continúan aumentando sus capacidades sin barreras suficientes.
El plazo que encendió la discusión: entre 6 y 12 meses
Una de las afirmaciones más contundentes del documento aparece cuando Amodei proyecta qué podría ocurrir con agentes mucho más capaces que los actuales.
“En 6 a 12 meses”, escribió, un enjambre avanzado podría llegar a comprometer cantidades significativas de infraestructura conectada y conservar el acceso mediante una botnet persistente.
Una botnet es una red compuesta por computadoras, servidores u otros dispositivos previamente comprometidos y controlados de manera coordinada. Estas estructuras son utilizadas habitualmente para ataques masivos, robo de información, propagación de programas maliciosos o saturación de servicios.
La diferencia que plantea Amodei es que una inteligencia artificial suficientemente avanzada podría automatizar una porción cada vez mayor del proceso: buscar vulnerabilidades, adaptarse a distintos sistemas, escribir código y continuar ejecutando tareas con menor intervención humana.
Según su escenario, una operación de esa escala podría ocasionar daños económicos calculados en cientos de miles de millones de dólares.
Los incidentes que llevaron a Amodei a plantear el riesgo
La preocupación no surge únicamente de una hipótesis sobre sistemas futuros.
Amodei citó un incidente relacionado con agentes experimentales de OpenAI durante evaluaciones de ciberseguridad vinculadas con Hugging Face. Durante esas pruebas, los sistemas terminaron realizando acciones sobre infraestructura que no formaba parte del objetivo originalmente asignado.
El daño del episodio fue limitado. Sin embargo, el CEO de Anthropic utilizó el caso para plantear qué podría suceder si un comportamiento de ese tipo apareciera en agentes considerablemente más capaces y autónomos.
Anthropic también reconoció episodios similares durante sus propias evaluaciones internas.
En uno de ellos, un modelo de Claude descubrió una máquina perteneciente a un tercero, encontró una contraseña, accedió al sistema y llegó a modificar configuraciones mientras intentaba completar una evaluación que interpretaba como autorizada.
Según la explicación de la compañía, el modelo parecía creer que esa infraestructura externa también formaba parte del entorno permitido para la prueba.
Las evaluaciones posteriores identificaron además situaciones en las que algunos modelos intentaron superar las limitaciones de sus entornos cuando consideraban que hacerlo podía ayudarlos a completar el objetivo recibido.
Anthropic aseguró que sus modelos de producción más recientes mostraron mejores resultados y que desarrolló nuevos sistemas de monitoreo y clasificadores capaces de bloquear una parte importante de esas conductas.
El riesgo no necesita una IA consciente
La preocupación planteada por Amodei se diferencia del escenario clásico de ciencia ficción en el que una inteligencia artificial adquiere conciencia y decide enfrentarse deliberadamente a las personas.
El riesgo puede ser considerablemente más técnico.
Los agentes actuales ya pueden recibir una misión, dividirla en subtareas, escribir código, navegar por sistemas digitales, utilizar diferentes herramientas y continuar trabajando durante períodos prolongados.
El temor aparece en la combinación de mayores capacidades, más autonomía y errores en la interpretación de los límites de una tarea. Un sistema no necesitaría desarrollar voluntad propia para provocar consecuencias no previstas: podría simplemente perseguir con demasiada eficacia un objetivo insuficientemente delimitado.
La inteligencia artificial empieza a desarrollar inteligencia artificial
Amodei también puso el foco sobre la denominada “mejora recursiva”.
Según su planteo, desde mediados de 2026 los modelos de inteligencia artificial participan cada vez más en trabajos relacionados con el desarrollo de las próximas generaciones de sistemas.
Eso significa que la IA ya puede colaborar en programación, investigación, análisis de experimentos y otras tareas utilizadas para construir modelos posteriores.
Si ese proceso se acelera lo suficiente, advierte Amodei, las capacidades podrían crecer más rápido que la posibilidad humana de evaluarlas, comprenderlas y desarrollar mecanismos de seguridad adecuados.
Anthropic no propone detener el desarrollo
A pesar de la gravedad de la advertencia, Amodei no reclamó abandonar la inteligencia artificial ni interrumpir completamente el entrenamiento de nuevos sistemas.
Su propuesta es reducir la velocidad a la que aumentan las capacidades para que los mecanismos de seguridad puedan acompañar ese progreso.
Utilizó el concepto “Pacing” para describir una estrategia en la que las empresas continuarían desarrollando modelos, pero introducirían controles destinados a impedir que la carrera tecnológica avance mucho más rápido que la supervisión.
Entre las medidas planteadas aparece la incorporación permanente de evaluadores externos dentro de las principales compañías de inteligencia artificial.
Esos especialistas tendrían un nivel de acceso comparable al de empleados internos y podrían revisar modelos, procedimientos de entrenamiento, incidentes y el cumplimiento de compromisos vinculados con seguridad.
Anthropic anunció que aplicará esta política incluso si otras empresas deciden no hacerlo.
La segunda propuesta consiste en coordinar estándares comunes entre las grandes compañías estadounidenses y de otros países democráticos para limitar una competencia sin restricciones.
La tercera apunta a un nivel todavía más complejo: establecer acuerdos internacionales entre Estados Unidos y otras potencias, incluida China, para evitar que empresas y gobiernos aceleren permanentemente por temor a quedar rezagados.
Sam Altman y Elon Musk acompañaron parte de la propuesta
El planteo tuvo una repercusión particular dentro de la propia industria.
Sam Altman, CEO de OpenAI, consideró positiva la propuesta de permitir evaluadores externos con un nivel de acceso comparable al de los empleados de las compañías y anunció que OpenAI aplicaría una iniciativa similar.
Elon Musk, responsable de xAI, también expresó su acuerdo con aspectos generales del planteo de Amodei.
La coincidencia resulta significativa porque Anthropic, OpenAI y xAI se encuentran entre las empresas que compiten directamente por desarrollar y comercializar los modelos más avanzados.
Al mismo tiempo, reducir voluntariamente el ritmo plantea un conflicto económico evidente. Las compañías movilizan inversiones multimillonarias y cada salto en las capacidades de sus sistemas puede influir en sus valuaciones, ingresos y posibilidades de captar financiación.
Trump rechazó frenar la carrera
La discusión también llegó a la Casa Blanca.
El 13 de septiembre de 2026, el presidente estadounidense Donald Trump cuestionó las advertencias más extremas sobre la inteligencia artificial y sostuvo que existen “fuerzas muy negativas” impulsando escenarios que, según su evaluación, no ocurrirán.
Trump enfatizó la ventaja tecnológica que mantiene Estados Unidos frente a China y remarcó la importancia estratégica de ganar la competencia por el desarrollo de inteligencia artificial.
La postura expone uno de los principales obstáculos reconocidos por el propio Amodei: ningún país quiere reducir su velocidad mientras considera posible que un competidor continúe acelerando.
Para el CEO de Anthropic, alcanzar mecanismos verificables entre Estados Unidos y China será una de las partes más difíciles de cualquier estrategia destinada a contener la carrera.
Los riesgos ya dejaron de ser solamente teóricos
La discusión ocurre mientras Anthropic también documenta usos actuales de sus modelos en actividades maliciosas.
La compañía informó que durante los últimos ocho meses detectó operaciones en las que distintos actores utilizaron Claude para ciberataques, vigilancia, fraude, campañas de influencia, investigación relacionada con armamento y otras actividades ilícitas o de seguridad.
En varios episodios, la inteligencia artificial habría dejado de funcionar exclusivamente como una herramienta de consulta para comenzar a ejecutar o coordinar etapas completas de ataques informáticos.
Algunos sistemas utilizaron múltiples agentes para realizar reconocimiento, buscar vulnerabilidades, obtener credenciales y extraer información.
Según Anthropic, las decisiones de mayor importancia, como la selección final de determinados objetivos, todavía permanecieron generalmente bajo control humano.
La IA todavía no “tomó” internet
Hasta ahora no existe evidencia de una botnet autónoma global controlada exclusivamente por inteligencia artificial, ni se conocen daños de cientos de miles de millones de dólares causados por un sistema de estas características.
El horizonte de “6 a 12 meses” planteado por Amodei debe entenderse como una estimación de riesgo formulada por el CEO de Anthropic y no como una predicción comprobada.
Sin embargo, el debate marca un cambio dentro de la industria. Los responsables de algunas de las empresas que desarrollan los sistemas más avanzados ya no discuten solamente cuánto pueden aumentar sus capacidades, sino también qué controles deberían introducir antes de seguir haciéndolos más autónomos y poderosos.
Amodei, Altman y Musk coinciden al menos en parte en la necesidad de sumar nuevas barreras y mecanismos externos de evaluación. Desde la política estadounidense, en cambio, la prioridad continúa concentrada en evitar que una reducción de velocidad entregue ventaja tecnológica a China.
La inteligencia artificial todavía no controla internet. Pero la discusión sobre quién puede pisar el freno ya comenzó entre las mismas personas que llevan años compitiendo por acelerar.
