Un cartón de leche en el supermercado tiene más protocolos de seguridad que los sistemas de inteligencia artificial más poderosos del mundo. Eso afirmó Brad Smith, presidente de Microsoft, en una entrevista reciente para la BBC, y su conclusión no es solo una comparación ingeniosa: es una evidencia de que algo está desequilibrado en la manera en que regulamos la tecnología que ya impacta decisiones financieras, médicas y de seguridad a nivel global.
Índice
El choque de visiones
La postura de Smith contrasta directamente con la que acaba de asumir la administración Trump en Estados Unidos. Mientras el presidente estadounidense prefiere que las grandes empresas de IA se autoricen a sí mismas —con el argumento de que no deben perder competitividad frente a China—, Microsoft, que es accionista de OpenAI y opera infraestructura crítica de IA, está pidiendo freno a esa libertad sin restricciones.
Es una posición incómoda para Microsoft, pero también estratégica. Smith no cuestiona el progreso tecnológico; reconoce que la autorregulación que algunos CEO firmaron recientemente en la Casa Blanca es “un buen paso”. Sin embargo, entiende que es insuficiente: las empresas responsables cumplirán cualquier norma voluntaria, pero las que no lo sean simplemente no participarán. El problema, dice, está en éstas últimas.
Tres medidas concretas
Smith propuso tres acciones regulatorias específicas, ninguna de ellas nueva en concepto pero aplicada por primera vez de forma integral a la IA:
Un freno de emergencia. Permitiría pausar o ralentizar un sistema de IA si detecta comportamientos fuera de control. Smith enfatiza que debe aplicarse especialmente a sistemas que controlan vehículos autónomos o infraestructuras críticas. La responsabilidad recaería tanto en las empresas que ejecutan los modelos como en los proveedores de nube que los alojan.
Reportes de incidentes obligatorios. Cuando una IA comprometida o malintencional penetra un sistema, la empresa afectada debe ser notificada inmediatamente, similar a como ocurre actualmente con las filtraciones de datos. Esto no es solo una medida técnica; es un mecanismo de transparencia que obliga a quien ejecuta la IA a enfrentar las consecuencias públicas de sus fallos.
Aprobación independiente antes del lanzamiento. Smith califica ésta como la más crucial: evaluadores gubernamentales examinarían los modelos de frontera (los más capaces) antes de que lleguen al público, como ya sucede con aviones comerciales, medicamentos o equipos médicos. “Sabemos cómo hacer esto para otros productos”, argumentó Smith. “Deberíamos aprovechar ese conocimiento y aplicarlo a la IA”.
¿Por qué el Reino Unido es protagonista?
Smith señala a Gran Bretaña como el lugar idóneo para liderar esta regulación global, principalmente porque ya cuenta con el Instituto de Seguridad de la IA (AISI), creado bajo mandato de un exprimer ministro. La ironía es que, según reportes, la Casa Blanca intentó impedir que Anthropic y OpenAI compartieran sus modelos más recientes con evaluadores británicos. A pesar de eso, el AISI confirmó que sigue teniendo acceso a las últimas versiones.
La autorregulación en la prueba
Recientemente, Trump reunió en la Casa Blanca a líderes de OpenAI, Anthropic, Nvidia, SpaceX, Meta y Google. La mayoría firmaron un documento “moralmente vinculante” donde se comprometieron a trabajar con auditores independientes. Microsoft no estuvo en esa firma inicial, aunque Smith dijo después que está “encantado de firmarla”.
Pero su mensaje es claro: esa declaración es el inicio, no el destino. La velocidad a la que avanza la IA —dice Smith— supera la velocidad de cualquier seguridad. Un modelo nuevo emerge cada pocos meses. Las normas regulatorias, en cambio, tardan años en implementarse. Ese desfase es, precisamente, el “Salvaje Oeste” que Smith quiere frenar.
¿Qué sigue?
Por ahora, no hay indicios de que la administración Trump vaya a cambiar su postura favorable a la autorregulación. Sin embargo, conforme escale el impacto de la IA en sectores críticos —y conforme lleguen los primeros incidentes graves sin un marco regulatorio claro—, la presión sobre los gobiernos por actuar probablemente aumente. Smith está apostando a que ese cambio llegará. La pregunta es si llegará a tiempo.
Con información de Xataka.
Imagen: Jelson25 / Wikimedia Commons (Public domain)
