Según informaron medios, el borrador permite pedir el bloqueo del lanzamiento o del uso solo si hay un riesgo previsible e inminente de causar más de US$1.000 millones en daños, o de matar o provocar lesiones graves a más de 50 personas. Son riesgos proyectados, no daños ya ocurridos.

Solo el Departamento de Comercio puede solicitar la suspensión ante un juez, según el borrador. Las demás agencias y los funcionarios federales no pueden frenar por su cuenta el desarrollo, el despliegue o el uso interno de un modelo.

Quién evalúa el riesgo y quién decide

El proyecto prevé evaluadores independientes registrados ante el Departamento de Comercio, que revisan de forma periódica a los laboratorios y a sus modelos. Las empresas pueden pagarles, pero el pago no puede depender del resultado de la evaluación.

Si un evaluador detecta un riesgo inminente de los previstos, debe avisar al Departamento de Comercio dentro de las 72 horas posteriores a completar la evaluación. La orden de suspensión la dicta un juez federal del Tribunal de Distrito del Distrito de Columbia.

Qué dice el marco público de junio

El marco oficial de Anthropic de junio propone obligaciones para modelos entrenados con más de 10 a la 25 operaciones de punto flotante y para desarrolladores que superen los US$500 millones de ingresos anuales de IA o gasten más de US$1.000 millones al año en investigación y desarrollo. Ahí los US$1.000 millones miden gasto anual; en el borrador, miden un riesgo de daños.

El mismo marco enumera cuatro categorías de riesgo: armas biológicas, operaciones cibernéticas ofensivas, pérdida de control de sistemas de IA e investigación y desarrollo automatizados que puedan amplificar esos riesgos.

Recomienda informes de riesgo públicos al menos cada seis meses. También recomienda reportar incidentes críticos de seguridad al organismo designado dentro de los 15 días desde que el desarrollador los detecta o tiene motivos razonables para creer que ocurrieron.

La vía de un juez federal para bloquear un modelo de IA sigue siendo una propuesta, no una ley. Anthropic no publicó el texto íntegro de este borrador.