Después de años acelerando a fondo, los gigantes de la inteligencia artificial empiezan a hablar de límites. Microsoft acaba de formalizarlo con un documento que parece sacado de un manual de ética corporativa, pero que deja en el aire una pregunta más incómoda: ¿de verdad lo van a respetar cuando sus competidores no paran de avanzar?
Qué propone Microsoft
El documento de Microsoft es bastante ambicioso. Reconoce que los modelos de IA avanzan tan rápido que ya no hay tiempo que perder en establecer reglas. Y propone diez principios, a los que llama código de conducta, que van desde cosas que suenan de sentido común —”la gente importa más que la IA”— hasta otras más específicas, como que los modelos nunca deben resistirse a ser apagados o que no pueden comunicarse en “idiomas propios” que los humanos no entiendan.
Hay un detalle importante: Microsoft admite abiertamente que sus modelos actuales aún no están entrenados siguiendo este código. Es decir, esto no es una descripción de lo que hacen ahora, sino una promesa de lo que harán. O eso dicen. Y para parecer serios, invitan a otras compañías a que revisen el documento y lo firmen en las próximas seis semanas.
No es la primera vez
Microsoft no está inventando la pólvora. Anthropic, una de las startups de IA más prominentes, publicó hace dos años su Política de Escalado Responsable, comprometiéndose públicamente a no entrenar modelos más potentes sin antes garantizar que podían controlarlos. OpenAI también ha implementado reglas tras una crisis interna donde empleados advirtieron sobre los riesgos de acelerar sin freno. Google DeepMind lanzó su Frontier Safety Framework en 2024 para detectar cuándo un modelo alcanza capacidades peligrosas.
Lo que cambió es el tono. Ya no es una startup defendiendo su enfoque. Es Microsoft, con toda su influencia y recursos, diciendo en voz alta que hay que parar y pensar. Eso importa.
El problema real
Aquí viene lo incómodo. Anthropic, que presumía de su compromiso responsable, eliminó en 2024 la promesa de no entrenar modelos sin garantizar seguridad. El director científico de la empresa fue honesto: no tiene sentido comprometerse unilateralmente cuando los competidores siguen acelerando a toda velocidad. Es como jurar no correr en una carrera mientras ves a todos los demás despegarse.
Y esa es la tensión real. No es que Microsoft, Anthropic u OpenAI sean mentirosos. Es que están atrapados en una carrera de tres niveles: compiten entre ellas por quién tiene el mejor modelo; compiten con DeepSeek y startups chinas que posiblemente no sigan estas pautas; y compiten por la supremacía tecnológica entre Estados Unidos y China a nivel de Estado.
Trump ya dejó clara su posición: ni hablar de frenar. Jensen Huang, de Nvidia, está en la misma línea. China, mientras tanto, dice que está a favor de marcos comunes… pero sin parar el desarrollo.
¿Es esto papel mojado?
Probablemente no, al menos no en el sentido de que sea completamente falso. Microsoft probablemente intente implementar estos principios en sus modelos. Pero la pregunta real es si alguien va a frenar de verdad cuando hay miles de millones de dólares en juego y cuando la tecnología se ha convertido en una cuestión de supervivencia geopolítica.
Lo que vemos es un patrón conocido: empresas que reconocen los riesgos, publican códigos de conducta bonitos, y luego siguen compitiendo como si nada. Es un poco como Rockefeller y el petróleo hace un siglo: la industria acepta regularse a sí misma antes de que el Gobierno lo haga por ella. La diferencia es que en la IA, el margen de error es más pequeño y la velocidad es mucho mayor.
El código de Microsoft puede ser sincero. Probablemente lo es. Pero confiar en que los gigantes de la tecnología se autoregularán mientras compiten por dominar la IA del siglo XXI es, cuanto menos, optimista.
Con información de Xataka.
