Seguridad de la IA: riesgos, gobernanza y competencia estratégica

La seguridad de la inteligencia artificial comprende el conjunto de prácticas, reglas e instituciones creadas para reducir los daños causados por sistemas de IA. El uso deliberado de la IA puede generar riesgos cuando se emplea para engañar, vigilar o atacar sistemas digitales. Además, los fallos no intencionados pueden causar daños cuando un modelo produce respuestas falsas o discrimina a personas. El riesgo aumenta cuando el sistema oculta sus criterios de decisión o se aplica a tareas para las que no ha sido probado. En la diplomacia, estas cuestiones entraron en el centro de la agenda a medida que la IA empezó a intervenir en la disputa por la información pública, la infraestructura crítica y el poder tecnológico.

El debate sobre este tema incluye una pregunta política: ¿quién tendrá suficiente capacidad institucional y tecnológica para orientar el ciclo de vida de los sistemas avanzados de IA? En gran medida, esa capacidad pertenece a las empresas que controlan los insumos centrales de la inteligencia artificial, así como a los Estados en los que esas empresas tienen su sede. Quien depende de estos sistemas necesita confiar en reglas elaboradas por otros y aceptar riesgos que no puede medir por sí solo. Por eso, la seguridad de la IA implica fiabilidad técnica y una disputa política sobre poder, dependencia y capacidad reguladora.

Resumen

• Los debates sobre la seguridad de la IA tratan de reducir daños causados por fallos técnicos, discriminación, desinformación, vigilancia, ciberataques, usos militares y efectos sobre el mercado laboral.
• La gobernanza internacional de la IA sigue fragmentada. Organizaciones multilaterales, bloques regionales, foros de grandes economías y cumbres especializadas han creado principios, códigos e instituciones con alcances y fuerza jurídica muy distintos.
• La IA es una tecnología de doble uso: los mismos modelos que pueden apoyar la investigación científica, la educación, la salud y la logística pueden, en otros contextos, ampliar riesgos vinculados a operaciones militares, espionaje, represión, propaganda y amenazas biológicas.
• La seguridad de la IA se vuelve más difícil en un entorno de competencia estratégica, en el que las principales potencias internacionales tratan la tecnología como fuente de poder, autonomía tecnológica e influencia sobre los estándares globales.
• El principal desafío de la gobernanza actual de la inteligencia artificial es la desigualdad en la participación de los países en desarrollo y en la aplicación de los principios de gobernanza.

Qué significa la seguridad de la IA

La expresión «seguridad de la IA» tiene una capa técnica y una capa político-social. En un sentido técnico, se refiere al intento de hacer que un sistema de inteligencia artificial funcione de manera fiable. El modelo de IA debe resistir manipulaciones, reconocer sus propios límites, proteger datos sensibles y mantenerse dentro del uso para el que fue diseñado. En un sentido social y político, por su parte, la expresión alude al esfuerzo por reducir los efectos perjudiciales que la IA puede producir sobre las personas, las instituciones y las relaciones internacionales.

Esta distinción es necesaria: no todo riesgo corresponde necesariamente a un defecto de software. Hay riesgos que surgen cuando el sistema reproduce desigualdades previas; un modelo de contratación puede funcionar como fue diseñado y, aun así, ser discriminatorio. También hay riesgos que derivan de la apariencia de fiabilidad: un modelo de IA generativa puede producir un texto coherente y, al mismo tiempo, difundir una mentira. En esos casos, la seguridad exige finalidad legítima, supervisión y posibilidad de impugnación por parte de la persona afectada.

El debate sobre la seguridad de la IA generativa ganó fuerza a partir de 2022, cuando la producción automática de contenido digital alcanzó una nueva escala. Desde entonces, interfaces relativamente simples empezaron a producir contenido y código con gran facilidad, incluso para usuarios sin conocimientos técnicos profundos. Aunque esa flexibilidad aporta varios beneficios, sus riesgos son considerables, pues un mismo modelo puede emplearse tanto con fines positivos como con fines maliciosos.

La seguridad de la IA, por tanto, no puede obtenerse mediante una sola política pública. El comportamiento de los modelos puede regularse mediante pruebas técnicas y estructuras de gobernanza, mientras que los derechos humanos y la protección de datos sirven para defender los intereses de las personas afectadas. En las cuestiones transfronterizas, la seguridad de la IA se relaciona con el control de armamentos, los estándares industriales y la cooperación científica. El desafío diplomático consiste en formular reglas sobre la IA antes de que los daños causados por ella se vuelvan irreversibles.

Principales riesgos civiles y sociales

El riesgo más recurrente de la IA se refiere a la toma automatizada de decisiones en asuntos sensibles. La selección de candidatos afecta al acceso al trabajo. La evaluación crediticia afecta al consumo, la vivienda y la actividad económica. La priorización de pacientes afecta al acceso a la atención sanitaria. En herramientas automatizadas de policía o verificación migratoria, el problema se vuelve aún más grave cuando la decisión puede restringir la libertad, la circulación y la residencia regular. De este modo, si un sistema de IA utiliza datos sesgados o criterios opacos, transforma desigualdades anteriores en decisiones aparentemente neutrales.

Otro riesgo es la erosión de la confianza pública debido al uso abusivo de la inteligencia artificial. Al reducir el coste de producir contenido a gran escala, los modelos de IA facilitan la desinformación. El riesgo aparece de dos formas principales. Las voces sintéticas y las imágenes falsas de autoridades dan a una mentira apariencia humana e institucional. Los documentos falsificados y las noticias inveraces, por su parte, otorgan a la falsificación una apariencia burocrática o periodística. El daño causado por esos contenidos deriva de que se producen de manera barata y parecen plausibles. Así, exigen un gran esfuerzo para que puedan ser desmentidos por instituciones públicas, periodistas y órganos electorales.

La desinformación amplía la polarización al acelerar la circulación de mentiras. En periodos electorales o durante crisis de seguridad, por ejemplo, los sistemas de IA pueden utilizarse para crear mensajes personalizados para ciertos grupos políticos. Esos contenidos ganan fuerza en internet y pueden aumentar rápidamente el miedo y la desconfianza de la población frente a las instituciones oficiales. Para afrontar este desafío, los gobiernos democráticos pueden invertir en herramientas legítimas de fiscalización. Sin embargo, en regímenes más autoritarios, la lucha contra la desinformación puede servir de justificación para restringir el debate público mediante censura y vigilancia estatal.

Los sistemas de IA plantean desafíos significativos para la privacidad, dado que dependen de datos abundantes para ser entrenados, ajustados o utilizados. Cuando manipulan datos biométricos o historiales de salud, pueden revelar patrones íntimos de las personas. Cuando trabajan con datos financieros o rastros cotidianos, pueden exponer rutinas personales. El problema mayor surge cuando los datos personales se reúnen a gran escala: en esas situaciones, resulta difícil distinguir un sistema de IA eficiente de un sistema de vigilancia. Estos riesgos aumentan a medida que se multiplican las bases de datos, las cámaras de reconocimiento facial y los sistemas automatizados de evaluación de comportamientos.

La inteligencia artificial también genera riesgos materiales. Para que los sistemas de este tipo sean entrenados y operados, deben existir centros de datos de gran capacidad. Eso depende no solo de chips avanzados, cuya fabricación exige muchos insumos, sino también de redes eléctricas e infraestructuras de refrigeración de servidores. Por una parte, los países con abundancia de agua y una matriz energética limpia pueden verse beneficiados si tienen condiciones para mantener esos centros de datos de forma sostenible. Por otra parte, en países con escasez de recursos, o incluso en escenarios de expansión desordenada, la demanda de recursos computacionales puede presionar los sistemas eléctricos y de abastecimiento de agua.

Doble uso, guerra y seguridad internacional

La IA es una tecnología de doble uso: la misma capacidad puede servir para fines civiles y militares. Esa dualidad aparece cuando cambia la finalidad del sistema. Un sistema de visión computacional utilizado para reconocer defectos industriales puede adaptarse para identificar objetivos. También aparece cuando el mismo procesamiento de información cambia de contexto: un modelo capaz de resumir grandes volúmenes de texto puede apoyar el análisis diplomático o reforzar actividades de inteligencia militar y vigilancia interna. En las herramientas de planificación, la diferencia está en el uso operativo, pues la misma capacidad que mejora la logística humanitaria puede organizar operaciones cibernéticas. Como el riesgo depende del usuario, del contexto y de la integración con otros sistemas, los controles simples por categoría de software rara vez bastan.

En el campo militar, la seguridad de la IA depende de la responsabilidad humana, el control de la velocidad y los límites a la proliferación. La responsabilidad humana es el primer problema, ya que las decisiones militares no pueden desaparecer dentro de una recomendación algorítmica. Si un sistema recomienda un objetivo, ordena una interceptación o prioriza una amenaza, debe saberse qué autoridad responde por la decisión. La pregunta se vuelve aún más sensible cuando el sistema opera un vehículo autónomo. El derecho internacional humanitario ya exige distinción entre combatientes y civiles, proporcionalidad y precaución. La IA preserva esas obligaciones y hace más difícil demostrar cómo se cumplieron cuando la decisión pasa por modelos opacos.

El segundo problema es la velocidad. Los sistemas automáticos pueden reducir el tiempo entre detección, clasificación y respuesta. En una crisis entre Estados armados, esa compresión del tiempo puede aumentar el riesgo de escalada. Una alerta falsa, una interpretación incorrecta de un movimiento militar o una decisión automatizada de represalia puede generar presión para actuar antes de que diplomáticos y mandos verifiquen el contexto. En ese caso, la seguridad depende de límites operativos y de canales de comunicación que preserven el juicio humano en decisiones críticas.

El tercer problema es la proliferación. Los sistemas de IA no se parecen a las armas nucleares, que exigen materiales físicos específicos, instalaciones detectables y cadenas de producción muy controladas. Los modelos, los datos y el conocimiento pueden circular con mayor facilidad. Aun así, las capacidades más avanzadas dependen de chips de alto rendimiento, computación en la nube, especialistas y acceso a grandes conjuntos de datos. Por eso, la política de seguridad ha empezado a controlar chips, exigir protección cibernética y utilizar evaluaciones técnicas incluso cuando la tecnología sigue estando distribuida.

Las conferencias REAIM, iniciadas en 2023 en los Países Bajos y continuadas en 2024 en Corea del Sur, muestran esa preocupación. Tratan del uso responsable de la IA en el ámbito militar, con énfasis en la supervisión humana y la rendición de cuentas por decisiones tomadas con apoyo algorítmico. Sus documentos ayudan a actores militares y civiles a emplear un lenguaje común, aunque todavía no crean un tratado vinculante. Al negociar conceptos sobre armas autónomas y responsabilidad humana, estos foros influyen en los términos que podrán sostener normas futuras.

Cómo surgió la gobernanza internacional de la IA

La gobernanza internacional de la IA creció por acumulación de foros. Todavía no existe un tratado central sobre el tema. Antes de la explosión de la IA generativa, la discusión ya existía en torno a la ética algorítmica, los derechos digitales y la tecnología militar. En 2021, la UNESCO aprobó una recomendación que pone la supervisión humana al servicio de los derechos humanos y la sostenibilidad en la ética de la IA. El texto aborda la privacidad, la no discriminación y el acceso equitativo a los beneficios de la tecnología. La OCDE y el G20 consolidaron principios sobre IA fiable, innovación y uso responsable.

El año 2023 cambió la escala política del asunto. El G7 lanzó el Proceso de Hiroshima sobre IA para desarrollar principios y un código de conducta voluntario para sistemas avanzados. Ese mismo año, la primera Cumbre de Seguridad de la IA, celebrada en Bletchley Park, produjo una declaración firmada por participantes como Brasil, Estados Unidos y China, además de la Unión Europea. La declaración dio centralidad a los riesgos de los modelos de frontera, es decir, sistemas generales muy capaces cuya potencia puede generar usos difíciles de prever.

La ONU entró en el centro de la agenda cuando la IA empezó a tratarse como cuestión de seguridad, desarrollo y derechos humanos al mismo tiempo. En 2023, el Consejo de Seguridad debatió sobre IA y seguridad internacional. La reunión abordó la desinformación y los riesgos cibernéticos como problemas transfronterizos y abrió espacio para discutir si los usos militares de la IA exigirían reglas propias. En 2024, la Asamblea General aprobó resoluciones sobre IA segura para el desarrollo sostenible y sobre cooperación internacional en capacitación. Estas resoluciones indican un consenso político mínimo, aunque no tengan fuerza de tratado: la IA debe respetar los derechos humanos, apoyar el desarrollo y reducir la brecha digital.

El informe final del Órgano Consultivo de Alto Nivel de la ONU sobre IA, publicado en 2024, organizó el problema en tres brechas que se refuerzan mutuamente. La representación es la primera, porque muchos países, sobre todo del Sur Global, quedaron fuera de iniciativas plurilaterales importantes. Esa exclusión dificulta la coordinación, ya que la multiplicación de foros crea reglas, estándares y compromisos sin mecanismos suficientes para conectarlos. Incluso cuando existen principios comunes, aparece la tercera brecha: la implementación. Los principios voluntarios no producen, por sí solos, capacidad técnica para ejecutar reglas y rendir cuentas.

Ese diagnóstico llevó a propuestas como un panel científico internacional sobre IA, un diálogo político regular y un intercambio internacional de estándares. En 2025, la Asamblea General empezó a transformar parte de ese diseño en instituciones al crear un panel científico independiente y un diálogo global sobre gobernanza de la IA. El paquete más amplio sugerido por la ONU incluye además una red de capacitación, un fondo global, un marco de datos y una oficina de IA en la Secretaría. El objetivo es reducir asimetrías de información y hacer que la cooperación dependa menos de cumbres ocasionales, sin sustituir regulaciones nacionales o regionales.

El Proceso de Bletchley también continuó después de 2024. La cumbre de París de 2025 desplazó parte del lenguaje de la «seguridad» hacia la «acción», la inclusión y la sostenibilidad, mientras que la Cumbre de Impacto de la IA en Nueva Delhi, en 2026, mantuvo la secuencia de encuentros intergubernamentales. El cambio de vocabulario muestra una disputa multilateral de prioridades: algunos gobiernos quieren concentrar la agenda en los riesgos de los modelos avanzados, mientras que otros insisten en el acceso, la infraestructura, el desarrollo y la participación del Sur Global.

El modelo regulatorio europeo y sus efectos

La Unión Europea adoptó el Reglamento de Inteligencia Artificial, conocido como AI Act, para transformar la seguridad de la IA en obligaciones de mercado. Su lógica central consiste en clasificar los usos de la inteligencia artificial de acuerdo con sus riesgos. Las prácticas consideradas de riesgo inaceptable se prohíben porque amenazan la autonomía, la igualdad o el control democrático en un nivel incompatible con un uso legítimo. Es el caso de los sistemas de puntuación social y de ciertas formas de manipulación o identificación biométrica. Las prácticas de alto riesgo, por su parte, deben cumplir obligaciones de gestión de riesgos, documentación, calidad de los datos, supervisión humana, robustez, ciberseguridad y transparencia. En la clasificación de la UE, esta categoría cubre usos capaces de afectar derechos y servicios esenciales. Por eso alcanza la infraestructura que mantiene servicios básicos, los sistemas educativos y laborales que condicionan oportunidades y los procesos decisorios estatales que pueden modificar derechos, prestaciones o situaciones jurídicas.

En términos diplomáticos, el AI Act interesa porque regula el acceso de las empresas que utilizan inteligencia artificial al mercado europeo. Como las empresas extranjeras que actúan en la Unión Europea deben adecuar sus sistemas a las normas del bloque, esas reglas pueden producir efectos globales. Eso fue precisamente lo que ocurrió, en parte, con las leyes europeas de protección de datos. Además, el AI Act sirve como referencia para otros países que quieran regular la inteligencia artificial sin empezar desde cero.

Sin embargo, el alcance de este reglamento europeo tiene límites. Aunque entró en vigor en 2024, sus obligaciones empezaron a aplicarse por etapas, lo que originó una disputa política y empresarial sobre la implementación. Además, ciertos temas siguen fuera del alcance del AI Act, como los riesgos militares, las cuestiones de seguridad nacional y los desequilibrios en el acceso mundial a la computación avanzada. De este modo, el principal valor del reglamento está en mostrar cómo los debates sobre la seguridad de la IA pueden traducirse en obligaciones jurídicas verificables.

Estados Unidos, China y la competencia estratégica

Estados Unidos y China tratan la IA como parte de una disputa tecnológica más amplia. Para Washington, la IA avanzada se conecta con el liderazgo económico del país, su defensa y su comunidad de inteligencia. En 2023, el gobierno de Biden presentó la seguridad de la IA como uno de los ejes que debían regularse mediante una orden ejecutiva. En 2025, sin embargo, el gobierno de Trump revocó ese enfoque y adoptó un plan de IA orientado a preservar el liderazgo tecnológico estadounidense. El nuevo plan vinculó ese objetivo con el desarrollo de infraestructura y la reducción de barreras regulatorias. Incluso con ese cambio de énfasis, el gobierno de Estados Unidos siguió vinculando la IA con las compras públicas, la cooperación con aliados y los controles de exportación sobre chips avanzados.

Los controles de exportación tienen una función estratégica clara, puesto que los modelos de IA avanzados exigen gran capacidad de procesamiento. Al limitar el acceso chino a chips de vanguardia, software y equipos de fabricación, Estados Unidos intenta dificultar el desarrollo de sistemas chinos de supercomputación, vigilancia avanzada y modernización militar. Así, la cadena de suministro tecnológico se convierte en un instrumento de seguridad nacional.

China, por su parte, responde con inversiones propias, ampliación de la regulación de la IA y promoción de estándares internacionales sobre ella. Desde 2017, Pekín trata la IA como prioridad de desarrollo y, en 2025, propuso crear una Organización Mundial para la Cooperación en Inteligencia Artificial. Las reglas chinas sobre algoritmos, contenido sintético e IA generativa exigen que los modelos de IA sean registrados, etiquetados y evaluados mediante pruebas de seguridad. Según el gobierno chino, esto es necesario para asegurar la estabilidad social, el control de los contenidos y la protección frente a los riesgos militares. Además, existe un énfasis en reducir la dependencia tecnológica externa, de modo que las empresas chinas puedan competir tanto en la calidad de sus modelos como en la solidez de su infraestructura digital.

La Unión Europea ocupa una tercera posición en esa disputa. No concentra plataformas e infraestructura de nube en la misma escala que Estados Unidos, ni opera según el modelo chino de partido-Estado. Su fuerza está en otro instrumento: la capacidad de usar el mercado interior para transformar valores jurídicos en requisitos de acceso. Por eso, la regulación europea funciona como poder diplomático indirecto. Las empresas que quieren operar en el bloque deben adaptar sus sistemas, y otros gobiernos pueden usar esas reglas como referencia para elaborar sus propias normas. En este contexto, los estándares técnicos, los chips y las nubes se convierten en partes de la misma disputa, junto con las reglas de datos, la financiación de infraestructura y la confianza regulatoria.

Para los países de renta media y baja, el dilema es distinto. Muchos necesitan la IA para mejorar servicios públicos, productividad agrícola, adaptación climática, educación y salud. No obstante, el uso seguro de estas herramientas depende de condiciones que no siempre están disponibles: computación suficiente, datos de calidad, especialistas y agencias reguladoras capaces de evaluar sistemas complejos. Si estos países dependen únicamente de empresas extranjeras, pueden recibir sistemas poco adaptados a sus lenguas, necesidades y riesgos locales. Si quedan fuera de los foros de gobernanza, las reglas globales se diseñarán sin tener en cuenta sus capacidades de implementación. Para estos países, la seguridad de la IA implica acceso, soberanía digital y protección frente a la dependencia tecnológica.

Por qué la gobernanza es difícil

La gobernanza de la IA es difícil, ante todo, porque la tecnología cambia más rápido que las instituciones que intentan regularla. La primera dificultad es técnica. Los sistemas avanzados de IA se evalúan mediante pruebas que miden el rendimiento en tareas específicas. Esas pruebas tienen alcance limitado: la vida real reúne contextos, usuarios e incentivos que no aparecen en el laboratorio. Un modelo puede parecer seguro en una evaluación y producir riesgos cuando se integra en herramientas externas, datos sensibles o decisiones de alto impacto. Como los modelos cambian rápidamente, una evaluación realizada antes del lanzamiento puede envejecer deprisa. La gobernanza, por tanto, necesita acompañar sistemas que siguen cambiando después de ser puestos en uso.

La segunda dificultad es institucional. Las empresas privadas concentran una parte relevante de la capacidad de desarrollo, mientras que los gobiernos deben regular sistemas que no siempre comprenden por completo. Las autoridades públicas pueden exigir transparencia, auditoría y pruebas, pero esas exigencias solo funcionan cuando el Estado consigue interpretarlas y verificarlas. Para fiscalizar bien, se necesitan especialistas, infraestructura y acceso a información interna. Cuando el sector regulado controla conocimiento técnico esencial, la supervisión exige capacidad pública constante, personal cualificado y autoridad legal para obtener evidencia técnica.

La tercera dificultad es diplomática. Los Estados quieren cooperación para evitar daños transfronterizos y, al mismo tiempo, buscan preservar ventaja tecnológica. Esa tensión aparece cuando un gobierno defiende la seguridad mientras protege su industria nacional. También aparece cuando pide transparencia a empresas extranjeras y mantiene en secreto sus propios usos militares. En casos más graves, un Estado puede apoyar principios de derechos humanos en foros multilaterales y usar IA para vigilancia doméstica. Esa diferencia entre discurso y práctica debilita la confianza necesaria para negociar reglas comunes.

La cuarta dificultad es distributiva. La seguridad cuesta dinero porque depende de pruebas, auditorías de datos, formación de funcionarios, infraestructura y protección de sistemas críticos. Muchos países necesitan los beneficios de la IA y carecen de recursos para evaluar sus riesgos de forma autónoma. Si adoptan herramientas importadas sin supervisión adecuada, el riesgo no se distribuye del mismo modo que el beneficio. La gobernanza internacional debe afrontar esa desigualdad. De lo contrario, la IA avanzada ampliará la distancia entre los países que elaboran las reglas y los países que solo reciben sus efectos.

Qué puede hacer la seguridad de la IA en la práctica

Una política de seguridad de la IA debe conectar riesgo, prueba, supervisión e impugnación. El primer paso es clasificar riesgos, porque no todo uso de IA exige el mismo grado de control. La diferencia aparece cuando se compara la función del sistema. Un uso recreativo o administrativo tiende a afectar al confort, el coste o la eficiencia. Un sistema que prioriza la atención en un hospital, por ejemplo, puede alterar el acceso concreto a cuidados médicos. Un modelo utilizado para apoyar la selección de objetivos militares afecta a otro tipo de riesgo, porque se aproxima al uso de la fuerza. La clasificación ayuda a dirigir obligaciones hacia los usos que pueden causar mayor daño.

El segundo elemento es probar antes y después de la implantación. Antes del uso, los modelos deben evaluarse en cuanto a robustez, tendencia a producir información falsa y riesgo de discriminación. Después de la implantación, la evaluación debe observar la ciberseguridad, el comportamiento en contextos inesperados y la posible orientación hacia actividades peligrosas. Como los sistemas aprenden mediante actualizaciones, integraciones y uso continuo, la evaluación debe acompañar todo el ciclo de vida del producto.

El tercer elemento es la supervisión humana con autoridad real. No basta con decir que hay una persona «en el circuito» si esa persona no entiende el sistema, no tiene tiempo para revisar la decisión o no puede contradecir la recomendación automatizada. Una supervisión relevante exige formación, documentación, registro de decisiones y responsabilidad clara. En usos militares y de infraestructura crítica, eso significa definir previamente qué decisiones pueden recibir apoyo algorítmico y cuáles no deben automatizarse.

El cuarto elemento es la impugnación. Las personas afectadas por decisiones automatizadas necesitan saber cuándo se utilizó IA, qué informaciones fueron relevantes y cómo recurrir. Sin ese camino, la IA crea una burocracia opaca. La decisión aparece como resultado técnico, y la persona afectada no consigue identificar el error ni responsabilizar a la institución que la aplicó. La impugnación, por tanto, transforma la seguridad en un derecho procedimental, más allá de una promesa técnica.

El quinto elemento es la cooperación internacional. Los estándares técnicos, el intercambio de incidentes y la capacitación pueden reducir riesgos que ningún país controla por sí solo. La investigación pública y el diálogo diplomático cumplen la misma función cuando acercan a gobiernos con capacidades muy distintas. Esa cooperación debe incluir a empresas e investigadores sin dejar la gobernanza en manos de quienes lucran con la tecnología. La legitimidad depende de una participación pública suficiente para impugnar decisiones técnicas que produzcan efectos políticos.

Límites y consecuencias diplomáticas

La seguridad de la IA seguirá conviviendo con el conflicto político en torno a la tecnología. Los Estados utilizarán la IA para buscar productividad, ventaja militar, influencia económica y capacidad de vigilancia. Las empresas disputarán mercados, datos e infraestructura. Las sociedades deberán decidir qué riesgos aceptan a cambio de eficiencia, comodidad o crecimiento. La gobernanza intenta administrar esos intereses mediante límites, transparencia y responsabilidad.

El punto central para la diplomacia es que la IA convierte la seguridad en una disputa sobre infraestructura. Quien controla los chips, las nubes y los cables controla parte de las condiciones de acción de los demás. La energía, los datos, los estándares y los modelos completan esa base material. Esta estructura da poder a algunos Estados y empresas, pero también crea vulnerabilidades para quienes dependen de ellos. Las cadenas de suministro pueden interrumpirse, los modelos pueden usarse contra sus creadores, las reglas nacionales pueden entrar en conflicto y la dependencia de pocos proveedores puede afectar a la autonomía política.

Como la IA cambia rápidamente, nace en gran medida de empresas privadas, se distribuye entre muchos usos y produce efectos que atraviesan fronteras, la seguridad de la IA difícilmente se organizará mediante un único instrumento. Pueden surgir tratados amplios cuando un daño determinado exige un compromiso jurídico más estable, como ocurre en los debates sobre derechos humanos, armas autónomas o delitos digitales. En los demás casos, la gobernanza tiende a avanzar por capas complementarias, porque cada capa responde a una limitación de la anterior. Los estándares técnicos vuelven verificables los principios al convertirlos en pruebas y métricas. Para que esas pruebas ganen dirección política, las cumbres ayudan a formar consenso antes de que existan obligaciones jurídicas. Aun así, el consenso de cumbre no basta para orientar la conducta cotidiana de empresas y gobiernos. Por eso, los códigos de conducta ocupan el espacio intermedio entre voluntariedad y regulación, en una etapa en la que la ley todavía no alcanza todos los usos. Por último, las normas regionales dan fuerza jurídica a prioridades locales al transformarlas en condiciones de acceso a mercados. Este formato es imperfecto, pero refleja la naturaleza de la tecnología.

Esa combinación de velocidad tecnológica, concentración empresarial y disputa geopolítica hace más probable una gobernanza por capas que un régimen único. En esa arquitectura, cada polo ocupa un lugar distinto porque controla instrumentos diferentes. La Unión Europea tiende a actuar mediante regulación de mercado, ya que su fuerza está en transformar el acceso al bloque en difusión de estándares. Estados Unidos parte de su base de innovación privada y de seguridad nacional, usando infraestructura y controles tecnológicos para preservar ventaja. China vincula la IA con desarrollo, control interno y autonomía estratégica, de modo que sus reglas sirven tanto a la competencia tecnológica como a la estabilidad política. La ONU, por su parte, ocupa el espacio que esos polos no consiguen llenar por sí solos: legitimidad, inclusión y coordinación para países que no participan en los centros tecnológicos. Entre esos polos, los Estados medios intentarán adaptar reglas, proteger sus datos y aprovechar beneficios sin quedar atados a una sola esfera tecnológica.

La seguridad de la IA, por tanto, implica al mismo tiempo una agenda técnica, orientada a obtener modelos más fiables, y una agenda de poder sobre quién decide los límites de la automatización. Esa doble dimensión define quién tendrá acceso a los beneficios de la automatización y quién responderá cuando los sistemas automatizados causen daños. La importancia diplomática de la seguridad de la IA está en este punto: la IA ya participa en la forma en que los Estados administran información, fuerza, desarrollo y soberanía. Gobernarla significa disputar las condiciones bajo las cuales la tecnología podrá servir a la cooperación sin convertirse en otro mecanismo de dependencia, coerción o inestabilidad.