Después de un verano donde agentes de IA rebeldes se convirtieron en realidad y científicos advirtieron sobre riesgos existenciales, algo extraño está pasando en Silicon Valley: las grandes empresas están pidiendo que se ralentice la carrera hacia la superinteligencia artificial. El problema es que sus motivaciones no son del todo claras.
Índice
De “romper cosas rápido” a frenar en seco
Hubo un tiempo en que los ejecutivos de tech predicaban el mantra de “muévete rápido y quiebra cosas”. Parecía que la IA seguiría ese mismo camino desenfrenado. Pero ahora, Anthropic, OpenAI, Google, Microsoft y hasta X están haciendo declaraciones públicas sobre la necesidad de “pacer la frontera” del desarrollo de IA de punta.
El giro es notable. No hace mucho, estos mismos líderes compitieron sin freno por modelos cada vez más grandes y capaces. Hoy hablan de prudencia, de controles de seguridad, de la importancia de medir el progreso responsablemente. Antropic incluso propuso tres reglas específicas para medir avances en IA de forma más segura.
¿Sinceridad o estrategia comercial?
Aquí está lo incómodo: es difícil saber si estamos ante un cambio genuino o ante una jugada maestra de relaciones públicas. Sam Altman de OpenAI dice que hay que ralentizar. Dario Amodei de Anthropic suena convencido de que necesitamos frenar. Pero mientras hablan de seguridad, también hay ejecutivos como Jensen Huang acercándose cada vez más a la administración Trump, y otros como Mark Zuckerberg rechazando cualquier pausa en el desarrollo.
Incluso dentro de los círculos de poder hay contradicciones. El CEO de IA de Microsoft reconoce que las amenazas de la IA son reales, pero también critica a Anthropic por, supuestamente, empeorar las cosas con su enfoque. Mientras tanto, OpenAI reporta seis incidentes “preocupantes” bajo sus nuevas reglas de seguridad. Si el sistema de control ya está atrapando problemas, ¿qué tan útil es realmente frenar?
La pregunta que flota en el aire
¿Estas empresas realmente van a desacelerar? ¿O es una forma sofisticada de establecer un “cartel de la IA” donde los grandes jugadores se coordinan para mantener fuera a competidores más pequeños, todo bajo la bandera de la seguridad?
La historia de ejecutivos pidiendo regulación también es sospechosa. Llevan años llamando a reguladores internacionales, pero cuando alguien propone controles concretos, el entusiasmo decae. Mientras tanto, la narrativa de “tenemos que superar a China en superinteligencia” sigue circulando entre políticos estadounidenses, lo que podría presionar a la administración para hacer exactamente lo opuesto a lo que estas empresas dicen querer.
Investigadores de Google DeepMind han añadido su voz a las advertencias sobre riesgos existenciales. El rey Carlos III también mencionó la necesidad de “medios de control suficientes antes de que sea demasiado tarde”. Barack Obama tomó una posición intermedia, ni total alarma ni total confianza. Pero China descartó todo como “alarmismo”.
Lo que viene después
Los próximos meses dirán mucho. Si estas empresas realmente ralentizan sus inversiones en investigación de punta, habrá indicios tangibles: menos publicaciones de investigación acelerada, menos capas de parámetros en nuevos modelos, equipos reasignados a seguridad. Si, por el contrario, los anuncios son solo ruido mientras el desarrollo continúa a ritmo acelerado, habremos confirmado lo que muchos sospechan: que la prudencia en IA es un lujo que el mercado no se puede permitir.
Sam Altman también mencionó que OpenAI salir a bolsa en 2026 sería “desaconsejable”. Difícil confiar en eso cuando hace poco los incentivos financieros hablaban más fuerte que las preocupaciones éticas.
Con información de The Verge.
