El 29 de septiembre, Donald Trump firmó un acuerdo sobre inteligencia artificial con Sundar Pichai, de Google; Dario Amodei, de Anthropic; Mark Zuckerberg, de Meta; Greg Brockman, presidente de OpenAI; Elon Musk, de xAI, y Jensen Huang, de Nvidia. Microsoft y Amazon quedaron fuera. Cinco días después, Trump puso a Jay Clayton, director de Inteligencia Nacional, al frente de una nueva instancia federal encargada de coordinar la política estadounidense sobre la llamada "superinteligencia".
El acuerdo establece cuatro capas de vigilancia para los modelos de frontera. Las empresas deberán controlar sus capacidades frente a riesgos cibernéticos, biológicos y químicos; crear equipos internos que comprueben esos controles; someterlos a evaluadores externos independientes, y establecer comités en sus consejos de administración que reciban los informes y exijan correcciones. Y los propios firmantes se reunirán periódicamente para fijar estándares y mejores prácticas.
Una auditoría puede medir el peligro de un modelo; alguien tiene que decidir cuánto peligro acepta en nombre de los demás. Esa segunda tarea es un acto de autoridad, y el acuerdo la deja donde estaba la primera: los mismos que miden fijan el umbral. El Ejecutivo pone la firma que vuelve obligatorio el arreglo y lo acerca al aparato de seguridad nacional.
Europa separó las dos tareas. El AI Act impone obligaciones jurídicas a los proveedores de modelos de propósito general y exigencias adicionales cuando existe riesgo sistémico: evaluar, mitigar, reportar incidentes graves, garantizar niveles de ciberseguridad. El proveedor mide. El umbral lo fija la ley y lo vigila una administración. Un Código de Prácticas facilita el cumplimiento: lo firmaron Amazon, Microsoft, Google, Anthropic y OpenAI; xAI aceptó solo el capítulo de seguridad; Meta se negó. Bruselas legisla sobre una tecnología que apenas produce, y su única palanca es el tamaño de su mercado.
China concentra las dos tareas en el Estado. Los servicios de IA generativa abiertos al público deben respetar los valores socialistas fundamentales, proteger la seguridad nacional, los datos personales y la propiedad intelectual, y actuar contra contenidos y usos prohibidos. Los que pueden influir en la opinión pública o movilizar a la sociedad pasan por evaluaciones de seguridad y registran sus algoritmos. Las autoridades pueden exigir cuentas sobre el origen y el volumen de los datos de entrenamiento, las reglas de etiquetado y el funcionamiento de los algoritmos. Desde 2025 el contenido generado por IA debe identificarse como tal, y en septiembre Pekín añadió un Marco de Gobernanza de Seguridad 3.0 bajo el principio de una tecnología "segura y controlable". El peligro que mide el Estado chino es, ante todo, el peligro para el Estado.
La pregunta es la misma en los tres casos: ¿quién fija el umbral?, y cada respuesta revela lo que su autor teme perder: Estados Unidos, ventaja estratégica; Europa, la capacidad de dictar reglas a una tecnología que producen otros; China, el control político sobre la tecnología y sus efectos sociales.
México ocupa una cuarta posición. Carece de laboratorios de frontera, de modo que nadie fabrica aquí lo que habría que vigilar; comparte con Europa la condición de regular lo que otros producen, sin el mercado que hace obedecer a Bruselas. Lo que tiene es despliegue: un Plan Nacional de Inteligencia Artificial, infraestructura en desarrollo, sistemas públicos en operación. Le falta todavía el marco general y las reglas sectoriales que conviertan sus principios -soberanía tecnológica, capacidad pública, protección de derechos- en obligaciones exigibles. El umbral de riesgo lo decidirá, entonces, como comprador y como usuario, en la seguridad pública, en el fisco, en los hospitales y en los juzgados. La pregunta mexicana llega después del despliegue: qué límites puede imponer el Estado a una tecnología que necesita, pero que no produce ni controla.
Recomendar Nota
