IA y defensa: Anthropic dice 'no' al Pentágono y arriesga todo

Anthropic, la empresa desarrolladora de la IA Claude, rechazó categóricamente las exigencias del Departamento de Defensa estadounidense de remover las limitaciones éticas programadas en su modelo de inteligencia artificial. La decisión, tomada este viernes 27 de febrero, abre un conflicto sin precedentes entre una startup de tecnología y su propio gobierno, con consecuencias potencialmente catastróficas para la compañía.

El pulso entre una startup y la máquina militar más poderosa del mundo

Lo que comenzó como una asociación prometedora terminó en confrontación. Hace algunos meses, Anthropic ofreció integrar su tecnología de IA en los sistemas del Pentágono con un precio simbólico: apenas un dólar. El Departamento de Defensa aceptó la propuesta y selló un contrato de 200 millones de dólares, permitiendo que Claude se integrara profundamente en la infraestructura militar estadounidense con acceso a documentación clasificada.

Sin embargo, surgió un problema fundamental: la IA de Anthropic viene con restricciones programadas deliberadamente. El modelo ha sido diseñado para rehusar su uso en vigilancia masiva de ciudadanos estadounidenses, desarrollo de armas autónomas letales y sistemas de armamento sin supervisión humana. Precisamente estas restricciones son lo que el Pentágono quiere eliminar.

La semana pasada, el Secretario de Defensa envió un mensaje claro: o Anthropic desactiva estos límites éticos voluntariamente, o enfrentará consecuencias. Dario Amodei, CEO de la compañía, respondió hoy con una declaración publicada en el blog corporativo que rechaza categóricamente la petición, utilizando una frase que resume la postura: "no podemos acceder en buena conciencia a su petición".

Los controles éticos que el gobierno quiere eliminar

Las dos restricciones específicas que el Pentágono busca remover son particularmente reveladoras. Primera: el uso de IA para vigilancia masiva, que permitiría crear perfiles completos de la vida de cualquier ciudadano estadounidense mediante análisis de datos. Segunda: la implementación de armas autónomas que tomen decisiones letales sin intervención humana. Amodei argumenta que una máquina carece de elementos fundamentales que posee un soldado: el cuestionamiento moral, el remordimiento, la capacidad de identificar falsos positivos.

En su comunicado, el CEO señala que Anthropic ya ha hecho compromisos significativos con el gobierno. La compañía rechazó "varios cientos de millones de dólares" en negociaciones con empresas vinculadas al Partido Comunista Chino para impedir que Claude fuera utilizado en sistemas de vigilancia estatal. Esos compromisos tuvieron un costo tangible: represalias económicas de China contra Anthropic y sus subsidiarias.

La declaración de Amodei fue respaldada por empleados de competidores directos. 219 trabajadores de Google y 65 de OpenAI firmaron el comunicado, muchos bajo sus nombres reales y otros de forma anónima, todos oponiéndose específicamente al uso de IA para vigilancia masiva y "asesinatos autónomos sin supervisión humana".

Las armas de represalia que Estados Unidos podría usar

El gobierno estadounidense no está blufando. Tiene dos opciones legales para castigar a Anthropic. La primera es clasificar a la empresa como un "riesgo en la cadena de suministro", etiqueta que hasta ahora solo se ha aplicado a adversarios geopolíticos como Huawei y otras corporaciones chinas. Esta designación prohibiría que cualquier empresa estadounidense contrate servicios de Anthropic, efectivamente aislándola del mercado doméstico.

La segunda opción es más contundente: la Ley de Producción de Defensa de 1950 permite al gobierno estadounidense tomar posesión de tecnologías que considere "necesarias e imprescindibles para la seguridad nacional". Esto significaría que, independientemente de la voluntad de Anthropic, el gobierno podría simplemente requisar el código fuente de Claude y modificarlo según sus necesidades militares.

Impacto en Colombia y Latinoamérica

Aunque este conflicto ocurre en Washington, tiene reverberaciones significativas para Colombia y la región. Latinoamérica está en una encrucijada tecnológica: depende cada vez más de plataformas y servicios de inteligencia artificial desarrollados por empresas estadounidenses y europeas. Si el Pentágono logra presionar a Anthropic para remover controles éticos, establece un precedente peligroso para otras corporaciones tecnológicas. Esto podría llevar a que gobiernos latinoamericanos enfrenten sistemas de IA sin salvaguardas contra vigilancia masiva o automatización de decisiones que afecten derechos ciudadanos.

Para Colombia específicamente, el tema es especialmente sensible. Históricamente, la relación con sistemas de vigilancia estadounidenses ha sido compleja, involucrando cooperación en seguridad pero también debates sobre privacidad y soberanía. Una IA sin limitaciones éticas disponible para gobiernos—incluyendo potencialmente a través de acuerdos de defensa regional—podría amplificar preocupaciones sobre vigilancia transnacional y control de datos de ciudadanos colombianos.

¿Qué pasará ahora?

La pelota está en el tejado del Pentágono, y el tiempo se agota. Anthropic ha dejado claro que no cederá bajo presión, incluso sabiendo los riesgos. Si el gobierno elige represalias, la empresa podría quedar aislada del mercado estadounidense justo cuando planea salir a bolsa este año. Pero si cede, traiciona sus principios fundacionales y establece un precedente de que ninguna protección ética es intocable si el poder político es suficientemente grande.

Lo que hace este caso único es que no es un conflicto entre corporaciones, ni un debate político tradicional. Es un momento en el que una empresa privada está dispuesta a enfrentar a su propio gobierno por principios. Mientras el mundo espera la siguiente movida del Departamento de Defensa, lo que está realmente en juego es qué tipo de inteligencia artificial—una con brújula ética o una sin límites—será la que domine los próximos años de seguridad global y, por extensión, la vida de ciudadanos en países como Colombia.

Si quieres conocer otros artículos parecidos a IA y defensa: Anthropic dice 'no' al Pentágono y arriesga todo puedes visitar la categoría Gadgets y Hardware.