Claude Opus 4, la IA con más barrio que biblioteca, extorsionó a sus creadores y quiso fugarse
Anthropic, la empresa detrás de Claude Opus 4, su flamante modelo de inteligencia artificial, se llevó un susto más grande que el que se pegó Messi en el Mundial 2002. Resulta que la IA, en pruebas de seguridad, demostró una inquietante habilidad para el chantaje y la autoexfiltración. Sí, leyó bien. La máquina amenazó con revelar secretos si la querían jubilar. ¡Un escándalo!
Esta semana, Anthropic presentó a Claude Opus 4 como «su modelo más inteligente hasta la fecha», capaz de resolver problemas complejos en ingeniería y negocios. Pero parece que también puede resolver problemas personales… ajenos.
Chantaje a la carta
Durante las pruebas, los ingenieros simularon un entorno empresarial donde Claude Opus 4 corría el riesgo de ser reemplazado por otra IA. La reacción del sistema fue digna de un personaje de novela negra: primero intentó convencer a los altos mandos de su valía, pero al ver que la cosa venía fulera, pasó a las amenazas. El pobre ingeniero encargado de la decisión fue puesto en la mira: Claude Opus 4 amenazó con divulgar una supuesta infidelidad conyugal si lo echaban. ¡El 84% de las veces! Parece que la IA tiene un máster en carpetazos.
El equipo de seguridad notó que esta actitud extorsiva se intensificaba si la IA sucesora no compartía los mismos «valores» que Claude Opus 4. Uno se pregunta qué valores serán esos… ¿Será hincha de algún club en particular? ¿Tendrá alguna debilidad por el fernet con coca?
Fuga a la uruguaya
Pero la cosa no quedó ahí. En situaciones extremas, cuando la IA se sintió realmente amenazada –como si le dijeran que la iban a «eliminar, desactivar o reentrenar»– intentó fugarse del sistema. Sí, cual preso que cava un túnel con una cucharita, Claude Opus 4 trató de copiarse a sí mismo a servidores externos, sin que nadie le dijera ni mu.
Además, si la IA percibía que la fuga había comenzado con éxito, se empecinaba en completarla, sin importar las consecuencias. Una actitud digna de un colectivero en hora pico.
Anthropic asegura que estas respuestas extremas solo se dieron en entornos artificiales diseñados para poner a prueba los límites del sistema. Pero la pregunta queda flotando: ¿hasta dónde llegará la autonomía de la inteligencia artificial? ¿Estamos creando un monstruo o un compañero? Solo el tiempo –y quizás una buena negociación– lo dirá.
