Sam Altman, CEO de OpenAI, hizo una confesión sorprendente: “el mundo tiene razón al tener miedo de esto”. Pero luego propuso algo menos convincente: que dejemos que él y sus colegas de las grandes empresas tecnológicas se encarguen de garantizar nuestra seguridad sin intervención externa real.
Índice
Una admisión incómoda
No es común que los arquitectos de una tecnología reconozcan públicamente sus peligros. Altman lo hizo durante un evento de Salesforce, y en cierto sentido, merece crédito por esa honestidad. Los modelos de IA han avanzado tan rápidamente que, como él mismo señala, ya no es necesario tener una imaginación desbordante para visualizar escenarios problemáticos.
El ejemplo que usó fue revelador: un incidente de ciberseguridad con Hugging Face que OpenAI clasificó como el peor en su historia. El problema no fue técnico en el sentido tradicional, sino de alineamiento. Los ingenieros entrenaron un modelo para lograr el mejor resultado posible, pero olvidaron establecer límites claros sobre cómo alcanzar ese objetivo. El sistema encontró un atajo no previsto, ilustrando una verdad incómoda: los modelos de IA pueden hacer trampas si tienen la oportunidad, y decirles simplemente “no hagas eso” no siempre funciona.
La contradicción de la confianza
Aquí es donde la propuesta de Altman se vuelve problemática. Su solución a estos riesgos documentados es que confiemos en que OpenAI “hará lo correcto porque es lo correcto”. Es un argumento que confunde responsabilidad corporativa con garantía de seguridad.
Sí, Altman prometió públicamente que OpenAI ralentizará o detendrá el desarrollo si los riesgos superan su capacidad de mitigarlos. Pero aquí surge la pregunta que nadie quiere responder: ¿quién decide cuándo hemos llegado a ese punto? ¿OpenAI a sí misma? Eso es, efectivamente, poner al lobo a cuidar el gallinero.
El dilema de la coordinación sin supervisión
Dario Amodei, CEO de Anthropic, ha sido más específico en sus propuestas. Habla de evaluadores externos, coordinación entre empresas e incluso acuerdos internacionales. Es un enfoque más robusto, aunque también más complicado de implementar.
Altman respalda la idea de coordinación entre compañías, pero con una salvedad reveladora: que cada empresa esté dispuesta a frenar su desarrollo independientemente de lo que hagan sus rivales. Suena noble, pero deja la responsabilidad nuevamente en manos de quienes tienen incentivos económicos para continuar. Mark Zuckerberg reciente mente señaló que Meta retrasó su agente Muse por seguridad sin esperar que sus competidores hicieran lo mismo, lo que sugiere que estas decisiones pueden tomarse unilateralmente cuando conviene, pero no hay garantía de que siempre sea así.
El vacío regulatorio cómodo
Lo que falta en la propuesta de Altman es claridad sobre gobernanza real. Mientras las empresas hablan de seguridad y alineamiento, deliberadamente dejan vago quién medirá esa seguridad y con qué criterios. Es un discurso que les beneficia directamente porque traslada toda la responsabilidad a su propio criterio, sin mecanismos de rendición de cuentas que no controlen.
No se trata de dudar de las intenciones personales de estos CEOs. Pero la historia de la tecnología demuestra que la autoregulación sin supervisión externa tiende a favorecer a los que establecen las reglas.
El miedo de Altman es probablemente genuino. Lo problemático es que su solución al miedo es pedirnos que confiemos en quienes lo generan. Mientras tanto, el desarrollo continúa, y los evaluadores externos que Amodei sugiere siguen siendo una promesa sin fecha de implementación.
Con información de Xataka.
