En un edificio de oficinas de Berkeley funciona algo más que un coworking: es el nodo físico de una red internacional que lleva años advirtiendo de un riesgo muy concreto — que la inteligencia artificial podría extinguir a la humanidad. Constellation Institute agrupa a investigadores, emprendedores y activistas que han logrado calar en la cultura interna de empresas tecnológicas reales y en los debates de política pública sobre cómo regular esta tecnología.
Índice
¿Qué es Constellation y qué predice?
Según su propia presentación, Constellation es una organización sin fines de lucro dedicada a que “la IA transformadora se desarrolle, despliegue y gobierne de manera segura”. El punto de partida de su trabajo es una premisa clara: aunque la IA puede generar “una prosperidad humana sin precedentes”, también puede conducirnos hacia tres escenarios catastróficos.
Primero, la pérdida permanente del control de la civilización humana a manos de sistemas de IA. Segundo, eventos extremos que provoquen muertes masivas o directamente la extinción humana. Tercero, el surgimiento y consolidación de regímenes autoritarios a escala global potenciados por esta tecnología. Para reducir esos riesgos, la red se organiza a través del desarrollo de talento, apoyo a actores clave en el sector y la creación de espacios físicos para coordinar acciones.
Un coworking que coordina a los “doomers”
En la práctica, Constellation funciona como un centro de reuniones, espacio de trabajo compartido y punto de encuentro de la comunidad de investigadores en “seguridad de la IA”. Es, simplemente, donde se reúnen cotidianamente las personas que más hablan de apocalipsis por inteligencia artificial en el mundo. Y esas personas — que sus críticos llaman “doomers” — han conseguido algo significativo: influir en la dirección estratégica de empresas como Anthropic y moldear el debate público sobre regulación de esta tecnología.
Raíces en el altruismo eficaz
Constellation no emerge de la nada. Nace de un movimiento filosófico y comunitario llamado altruismo eficaz (effective altruism en inglés) combinado con tradiciones del racionalismo académico. Desde hace más de una década, estos círculos llevan alertando sobre los riesgos existenciales de la IA.
Entre sus figuras fundacionales está Eliezer Yudkowsky, quien creó el Machine Intelligence Research Institute (MIRI) y la comunidad en línea LessWrong. Junto a Nate Soares, es coautor de un libro cuyo título lo resume todo: “If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All” (Si alguien la construye, todos morimos: por qué una IA superhuman nos mataría a todos).
Lo notable es que muchos de los fundadores y primeros empleados de Anthropic salieron directamente de este círculo. El ejemplo más visible: Dario Amodei y su hermana Daniela, ambos en posiciones directivas de la empresa. Ambos se formaron dentro de esta comunidad, aunque posteriormente se distanciaron del movimiento de altruismo eficaz tras el escándalo que llevó a prisión al empresario de criptomonedas Sam Bankman-Fried, una de las figuras clave del movimiento.
El momento de máxima visibilidad
Durante las últimas semanas, esta red pasó de operar en la sombra a ocupar titulares. Primero, un exingeniero de Anthropic declaró públicamente que los laboratorios de IA estaban “jugando con nuestras vidas”. Inmediatamente después, Evan Hubinger, jefe del equipo de alineamiento (alignment) de Anthropic, no solo validó esa preocupación, sino que la escaló: aseguró que considera que existe un porcentaje de probabilidad significativo de que la IA acabe con toda la humanidad en las próximas décadas.
Aquí viene lo relevante: Hubinger también tiene conexiones profundas con esta red de investigadores. Trabajó en el MIRI y orbita el mismo círculo de personas que coordina Constellation. En otras palabras, los investigadores que más advierten públicamente sobre riesgos existenciales de la IA son también los que diseñan las medidas de seguridad en las empresas que construyen esa IA.
¿Por qué importa esto?
La historia no es que existan científicos preocupados por la seguridad de la IA — eso es deseable. La historia es que una red específica de personas, formada en comunidades altamente interconectadas y filosofías particulares, ha logrado construir instituciones influyentes, empresas de tecnología de primera línea y canales hacia los reguladores. Eso abre dos preguntas simultáneamente: ¿qué tan rigurosa es su evidencia sobre riesgos existenciales? ¿Y cuánto de su influencia se debe realmente al peso de sus argumentos versus a la densidad de su red?
Con información de Xataka.
Imagen: U.S. Navy graphic/Released / Wikimedia Commons (Public domain)
