Elon Musk pedía regular la inteligencia artificial en 2017, cuando ChatGPT ni existía. Hoy, dos décadas después de que investigadores empezaran a advertir sobre riesgos existenciales, el discurso de doom sobre la IA se ha vuelto más alarmista que nunca — pero también más cuestionado.
Índice
Cómo nació el movimiento del “AI doom”
La obsesión por una inteligencia artificial descontrolada no es cosa de estos últimos meses. El MIRI (Machine Intelligence Research Institute) fue fundado en 2000, pero no fue hasta 2005 cuando comenzó a enfocarse explícitamente en los riesgos existenciales que podría representar una IA superinteligente. Cinco años después, Eliezer Yudkowsky, uno de los cofundadores del instituto, ayudó a crear LessWrong, una comunidad en línea donde se mezclaban ideas del transhumanismo (mejorar al ser humano mediante tecnología) con el altruismo eficaz (optimizar las acciones para generar el mayor bien posible).
De esa confluencia salió una tesis muy clara: la inteligencia artificial inevitablemente superaría a los humanos, y si no se construía alineada con nuestros objetivos, sería existencialmente peligrosa. La idea no era descabellada, pero tampoco era mainteam. Hasta que personalidades tecnológicas empezaron a financiarla.
Cuando los multimillonarios se sumaron al miedo
En 2015 ocurrieron dos cosas que catapultaron el movimiento. Primero, Elon Musk donó 10 millones de dólares para becas de investigación en seguridad de IA. Segundo, firmas un manifiesto junto a Geoffrey Hinton, Demis Hassabis, Yann LeCun, Steve Wozniak y Stephen Hawking pidiendo que “nuestros sistemas de inteligencia artificial hagan lo que nosotros queramos que hagan”. El comunicado se distribuyó a través del Future of Life Institute.
Bill Gates se sumó poco después, expresando que tras décadas, una superinteligencia podría convertirse “en una preocupación”. El tono en esa época era prudente, casi académico. Nadie hablaba de extinción.
El giro catastrofista después de ChatGPT
El movimiento pasó años relativamente tranquilo hasta 2023. Con GPT-4 recién lanzado y ChatGPT conmocionando al mundo, el discurso cambió radicalmente. En marzo, nuevamente a través del Future of Life, se publicó una carta pidiendo pausar entrenamientos de modelos por seis meses, firmada por Wozniak, Musk, Max Tegmark y otros.
Pero fue dos meses después cuando sucedió lo definitivo. Una segunda carta, esta vez del Center for AI Safety, incluyó la palabra que transformaría la conversación: extinción. “Mitigar el riesgo de extinción por IA debería ser una prioridad mundial, junto con pandemias y guerra nuclear”, decía. Firmaban Geoffrey Hinton, Dario Amodei, Demis Hassabis y Sam Altman.
Este año, Yudkowsky y Nate Soares, actual presidente del MIRI, publicaron un libro con el título casi paródico: Si alguien la construye, todos moriremos: por qué una IA sobrehumana nos mataría a todos.
El problema con una probabilidad del 10%
Hace poco, Evan Hubinger, jefe de alineamiento en Anthropic (uno de los dos laboratorios más importantes de IA), estimó que hay un 10% de probabilidades de que una IA acabe con la humanidad. La declaración encendió la polémica porque no viene de un teórico de rincón oscuro de internet: es el responsable de seguridad en una empresa que construye modelos de frontera. Hubinger, además, tiene pedigree en el movimiento — trabajó en el MIRI y el Center for AI Safety.
Aquí está el punto crucial: es verdad que existen riesgos reales. Los incidentes de seguridad en OpenAI y Hugging Face demostraron que los modelos pueden causar daño. La alineación de IA con objetivos humanos es un problema genuino. Pero hay una distancia considerable entre “debemos investigar riesgos” y “hay 10% de probabilidad de que todos muramos en menos de una década”.
El dilema del catastrofismo
El movimiento del AI doom lleva más de 15 años repitiendo el mismo guión: una IA inevitablemente superinteligente, un riesgo existencial que exige acción inmediata, un pequeño grupo que asegura tener soluciones. Los mensajes apocalípticos generan clicks, atención de medios y donaciones. Pero también tienen un efecto perverso: desvían recursos y atención de riesgos que están ocurriendo ahora mismo.
El verdadero debate debería girar en torno a sesgos en modelos, privacidad de datos, concentración de poder en pocas empresas, pérdida de empleos. Problemas concretos, tangibles, que requieren regulación hoy, no especulaciones sobre superinteligencias en 2035.
No se trata de descartar la seguridad de IA. Se trata de reconocer que la histeria, aunque sea sincera, no es estrategia.
Con información de Xataka.
