Segurança da IA: riscos, governança e competição estratégica

A segurança da inteligência artificial compreende o conjunto de práticas, regras e instituições criadas para reduzir danos causados por sistemas de IA. O uso deliberado da IA pode causar riscos quando ela é empregada para enganar, vigiar ou atacar sistemas digitais. Além disso, falhas não intencionais podem causar danos quando um modelo produz respostas falsas ou discrimina pessoas. O risco aumenta quando o sistema oculta seus critérios de decisão ou é colocado em tarefas para as quais não foi testado. Na diplomacia, essas questões entraram no centro da agenda à medida que a IA passou a interferir na disputa por informação pública, infraestrutura crítica e poder tecnológico.

O debate acerca desse tema inclui uma pergunta política: quem terá capacidade institucional e tecnológica suficiente para orientar o ciclo de vida dos sistemas avançados de IA? Em grande medida, essa capacidade pertence às empresas que controlam os insumos centrais da inteligência artificial, bem como aos Estados nos quais essas empresas estão sediadas. Quem depende desses sistemas precisa confiar em regras elaboradas por outros e aceitar riscos que não consegue medir sozinho. Por isso, a segurança da IA envolve confiabilidade técnica e disputa política sobre poder, dependência e capacidade regulatória.

Resumo

• Os debates sobre a segurança da IA tratam da redução de danos causados por falhas técnicas, discriminação, desinformação, vigilância, ataques cibernéticos, usos militares e efeitos sobre o mercado de trabalho.
• A governança internacional da IA ainda é fragmentada. Organizações multilaterais, blocos regionais, fóruns de grandes economias e cúpulas especializadas criaram princípios, códigos e instituições, com alcance e força jurídica muito diferentes.
• A IA é uma tecnologia de uso dual: os mesmos modelos que podem apoiar pesquisa científica, educação, saúde e logística podem, em outros contextos, ampliar riscos ligados a operações militares, espionagem, repressão, propaganda e ameaças biológicas.
• A segurança da IA torna-se mais difícil em um ambiente de competição estratégica: as principais potências internacionais tratam a tecnologia como fonte de poder, autonomia tecnológica e influência sobre padrões globais.
• O principal desafio da governança atual da inteligência artificial é a desigualdade na participação de países em desenvolvimento e na implementação dos princípios de governança.

O que significa a segurança da IA

A expressão “segurança da IA” tem uma camada técnica e uma camada político-social. Em um sentido técnico, ela se refere à tentativa de fazer com que um sistema de inteligência artificial funcione de modo confiável. O modelo de IA precisa resistir a manipulações, reconhecer seus próprios limites, proteger dados sensíveis e permanecer dentro do uso para o qual foi elaborado. Em um sentido social e político, por sua vez, a expressão alude ao esforço para reduzir os efeitos deletérios que a IA pode produzir sobre as pessoas, as instituições e as relações internacionais.

Essa distinção é necessária: nem todo risco corresponde, necessariamente, a um defeito de software. Há riscos que surgem porque o sistema reproduz desigualdades anteriores: um modelo de recrutamento pode funcionar como foi projetado e, ainda assim, ser discriminatório. Há também riscos que decorrem da aparência de confiabilidade: um modelo de IA generativa pode produzir um texto coerente e, ao mesmo tempo, espalhar uma mentira. Nesses casos, a segurança exige finalidade legítima, supervisão e contestação pela pessoa afetada.

O debate sobre a segurança da IA generativa ganhou força a partir de 2022, quando a produção automática de conteúdo digital alcançou uma nova escala. A partir de então, interfaces relativamente simples passaram a produzir conteúdo e código com ampla facilidade, mesmo para usuários sem conhecimento técnico profundo. Ainda que essa flexibilidade traga vários benefícios, seus riscos são consideráveis: um mesmo modelo pode ser empregado tanto para fins positivos quanto para fins maliciosos.

A segurança da IA, portanto, não pode ser obtida com apenas uma única política pública. O comportamento dos modelos pode ser regulado por meio de testes técnicos e de estruturas de governança, ao passo que os direitos humanos e a proteção de dados servem para defender os interesses das pessoas afetadas. No caso de questões transfronteiriças, a segurança da IA se relaciona ao controle de armas, aos padrões industriais e à cooperação científica. O desafio diplomático está em formular regras sobre IA para serem aplicadas antes que os danos causados por ela se tornem irreversíveis.

Principais riscos civis e sociais

O risco mais recorrente da IA diz respeito à tomada de decisões automatizadas em questões sensíveis. A seleção de candidatos afeta o acesso ao trabalho. A avaliação de crédito afeta consumo, moradia e atividade econômica. A priorização de pacientes afeta o acesso ao cuidado de saúde. Em ferramentas automatizadas de policiamento ou verificação migratória, o problema se torna ainda mais grave, porque a decisão pode restringir liberdade, circulação e permanência regular. Desse modo, se um sistema de IA usa dados enviesados ou critérios opacos, ele transforma desigualdades anteriores em decisões aparentemente neutras.

Outro risco é a erosão da confiança pública devido ao uso abusivo da inteligência artificial. Ao reduzirem o custo de produzir conteúdo em grande escala, os modelos de IA facilitam a desinformação. O risco aparece de duas formas principais. Vozes sintéticas e imagens falsas de autoridades emprestam aparência humana e institucional a uma mentira. Documentos fraudados e notícias inverídicas, por sua vez, dão à falsificação uma aparência burocrática ou jornalística. O dano causado por esses conteúdos decorre do fato de eles serem produzidos de forma barata e terem aparência plausível. Assim, demandam grande esforço para que sejam desmentidos por instituições públicas, jornalistas e órgãos eleitorais.

A desinformação amplia a polarização porque acelera a circulação de mentiras. Em períodos eleitorais ou durante crises de segurança, por exemplo, sistemas de IA podem ser utilizados para criar mensagens personalizadas para certos grupos políticos. Tais conteúdos ganham força pela internet e, rapidamente, podem ampliar o medo e a desconfiança do povo frente às instituições oficiais. Para enfrentar esse desafio, governos democráticos podem investir em ferramentas de fiscalização legítima. Todavia, em regimes mais autoritários, o combate à desinformação pode servir de justificativa para restringir o debate público por meio de censura e vigilância estatal.

Os sistemas de IA apresentam desafios significativos à privacidade, dado que dependem de dados abundantes para serem treinados, ajustados ou utilizados. Quando manipulam dados biométricos ou registros de saúde, podem revelar padrões íntimos das pessoas. Quando lidam com dados financeiros ou com rastros cotidianos, podem expor rotinas pessoais. O problema maior surge quando dados pessoais são reunidos em grande escala: nessas situações, fica difícil distinguir um sistema de IA eficiente de um sistema de vigilância. Esses riscos aumentam à medida que bancos de dados, câmeras de reconhecimento facial e sistemas de avaliação automatizada de comportamentos se proliferam.

A inteligência artificial traz riscos materiais. Para que sistemas desse gênero sejam treinados e operados, é fundamental que existam centros de dados de grande capacidade. Isso depende não apenas de chips avançados, cuja fabricação exige muitos insumos, mas também de redes elétricas e de infraestruturas de resfriamento dos servidores. Por um lado, países abundantes em água e com uma matriz energética limpa podem ser beneficiados, pois têm condições de manter esses centros de dados de forma sustentável. Por outro lado, em países com escassez de recursos, ou mesmo em cenários de expansão desordenada, a demanda por recursos computacionais pode pressionar sistemas elétricos e de abastecimento hídrico.

Uso dual, guerra e segurança internacional

A IA é uma tecnologia de uso dual, pois a mesma capacidade pode servir a fins civis e militares. Essa dualidade aparece quando a finalidade do sistema muda. Um sistema de visão computacional usado para reconhecer defeitos industriais pode ser adaptado para identificar alvos. Aparece também quando o mesmo processamento de informação muda de contexto: um modelo capaz de resumir grandes volumes de texto pode apoiar análise diplomática ou fortalecer atividades de inteligência militar e vigilância interna. Em ferramentas de planejamento, a diferença está no uso operacional, pois a mesma capacidade que melhora a logística humanitária pode organizar operações cibernéticas. Como o risco depende do usuário, do contexto e da integração com outros sistemas, controles simples por categoria de software raramente bastam.

No campo militar, a segurança da IA depende de responsabilidade humana, controle de velocidade e limites à proliferação. A responsabilidade humana é o primeiro problema, uma vez que decisões militares não podem desaparecer dentro de uma recomendação algorítmica. Se um sistema recomenda um alvo, ordena uma interceptação ou prioriza uma ameaça, é preciso saber qual autoridade responde pela decisão. A pergunta fica ainda mais sensível quando o sistema opera um veículo autônomo. O direito internacional humanitário já exige distinção entre combatentes e civis, proporcionalidade e precaução. A IA preserva essas obrigações e torna mais difícil demonstrar como elas foram cumpridas quando a decisão passa por modelos opacos.

O segundo problema é a velocidade. Sistemas automáticos podem reduzir o tempo entre detecção, classificação e resposta. Em uma crise entre Estados armados, essa compressão do tempo pode aumentar o risco de escalada. Um alerta falso, uma interpretação incorreta de movimento militar ou uma decisão de retaliação automatizada pode gerar pressão para agir antes que diplomatas e comandantes verifiquem o contexto. A segurança, nesse caso, depende de limites operacionais e de canais de comunicação que preservem julgamento humano em decisões críticas.

O terceiro problema é a proliferação. Sistemas de IA não se parecem com armas nucleares, que exigem materiais físicos específicos, instalações detectáveis e cadeias de produção muito controladas. Modelos, dados e conhecimento podem circular mais facilmente. Mesmo assim, as capacidades mais avançadas dependem de chips de alto desempenho, computação em nuvem, especialistas e acesso a grandes conjuntos de dados. Por isso, a política de segurança passou a controlar chips, exigir proteção cibernética e usar avaliações técnicas mesmo quando a tecnologia continua distribuída.

As conferências REAIM, iniciadas em 2023 nos Países Baixos e continuadas em 2024 na Coreia do Sul, mostram essa preocupação. Elas tratam do uso responsável da IA no domínio militar, com ênfase em supervisão humana e responsabilização por decisões tomadas com apoio algorítmico. Seus documentos ajudam atores militares e civis a usar uma linguagem comum, embora ainda não criem um tratado vinculante. Ao negociar conceitos sobre armas autônomas e responsabilidade humana, esses fóruns influenciam os termos que poderão sustentar normas futuras.

Como surgiu a governança internacional da IA

A governança internacional da IA cresceu por acúmulo de fóruns. Ainda não há um tratado central para o tema. Antes da explosão da IA generativa, a discussão já existia em torno de ética algorítmica, direitos digitais e tecnologia militar. A UNESCO aprovou, em 2021, uma recomendação que coloca supervisão humana a serviço de direitos humanos e sustentabilidade na ética da IA. O texto aborda privacidade, não discriminação e acesso equitativo aos benefícios da tecnologia. A OCDE e o G20 consolidaram princípios sobre IA confiável, inovação e uso responsável.

O ano de 2023 mudou a escala política do tema. O G7 lançou o Processo de Hiroshima sobre IA para desenvolver princípios e um código de conduta voluntário para sistemas avançados. No mesmo ano, a primeira Cúpula de Segurança da IA, realizada em Bletchley Park, produziu uma declaração assinada por participantes como Brasil, Estados Unidos e China, além da União Europeia. A declaração deu centralidade aos riscos de modelos de fronteira, isto é, sistemas gerais muito capazes, cuja potência pode gerar usos difíceis de prever.

A ONU entrou no centro da agenda quando a IA passou a ser tratada como tema de segurança, desenvolvimento e direitos humanos ao mesmo tempo. Em 2023, o Conselho de Segurança discutiu IA e segurança internacional. A reunião tratou da desinformação e dos riscos cibernéticos como problemas transfronteiriços e abriu espaço para discutir se usos militares de IA exigiriam regras próprias. Em 2024, a Assembleia Geral aprovou resoluções sobre IA segura para o desenvolvimento sustentável e sobre cooperação internacional em capacitação. Essas resoluções indicam um consenso político mínimo, ainda que não tenham força de tratado: a IA deve respeitar direitos humanos, apoiar desenvolvimento e reduzir a desigualdade digital.

O relatório final do Órgão Consultivo de Alto Nível da ONU sobre IA, publicado em 2024, organizou o problema em três lacunas que se reforçam. A representação é a primeira, pois muitos países, sobretudo do Sul Global, ficaram fora de iniciativas plurilaterais importantes. Essa exclusão dificulta a coordenação, já que a multiplicação de fóruns cria regras, padrões e compromissos sem mecanismos suficientes para conectá-los. Mesmo quando há princípios comuns, surge a terceira lacuna: a implementação. Princípios voluntários não produzem, por si só, capacidade técnica para executar regras e prestar contas.

Esse diagnóstico levou a propostas como um painel científico internacional sobre IA, um diálogo político regular e uma troca internacional de padrões. Em 2025, a Assembleia Geral começou a transformar parte desse desenho em instituições, ao criar um painel científico independente e um diálogo global sobre governança da IA. O pacote mais amplo sugerido pela ONU inclui ainda uma rede de capacitação, um fundo global, um marco de dados e um escritório de IA no Secretariado. O objetivo é reduzir assimetrias de informação e tornar a cooperação menos dependente de cúpulas ocasionais, sem substituir regulações nacionais ou regionais.

O Processo de Bletchley também continuou depois de 2024. A cúpula de Paris de 2025 deslocou parte da linguagem de “segurança” para “ação”, inclusão e sustentabilidade, enquanto a Cúpula de Impacto da IA em Nova Delhi, em 2026, manteve a sequência de encontros intergovernamentais. A mudança de vocabulário mostra uma disputa multilateral de prioridade: alguns governos querem concentrar a agenda em riscos de modelos avançados, ao passo que outros insistem em acesso, infraestrutura, desenvolvimento e participação do Sul Global.

O modelo regulatório europeu e seus efeitos

A União Europeia adotou o “AI Act” para transformar a segurança da IA em obrigações de mercado. A lógica central dele é classificar os usos da inteligência artificial de acordo com seus riscos. Práticas consideradas de risco inaceitável são proibidas porque ameaçam autonomia, igualdade ou controle democrático em nível incompatível com uso legítimo. Esse é o caso de sistemas de pontuação social e de certas formas de manipulação ou identificação biométrica. As práticas de alto risco, por sua vez, precisam cumprir obrigações de gestão de risco, documentação, qualidade dos dados, supervisão humana, robustez, cibersegurança e transparência. Na classificação da UE, essa categoria engloba usos capazes de afetar direitos e serviços essenciais, como infraestrutura crítica, educação, mercado de trabalho e processos decisórios dos Estados.

Em termos diplomáticos, o “AI Act” interessa pois regula o acesso das empresas que utilizam inteligência artificial ao mercado europeu. Como empresas estrangeiras que atuam na União Europeia precisam adequar seus sistemas às normas do bloco, essas regras podem produzir efeitos globais. Isso foi exatamente o que ocorreu, em parte, com as leis europeias sobre proteção de dados. Além disso, o “AI Act” serve como uma referência para outros países que queiram regular a inteligência artificial, sem precisarem começar do zero.

Todavia, o alcance desse regulamento europeu tem limites. Conquanto tenha entrado em vigor em 2024, suas obrigações passaram a ser aplicadas em etapas, o que deu origem a uma disputa política e empresarial sobre a implementação. Ademais, certos temas continuam fora do alcance do “AI Act”, como os riscos militares, as questões de segurança nacional e os desequilíbrios no acesso mundial à computação avançada. Dessa forma, o principal valor do regulamento está em mostrar como os debates sobre a segurança da IA podem resultar em obrigações jurídicas verificáveis.

Estados Unidos, China e a competição estratégica

Os Estados Unidos e a China tratam a IA como parte de uma disputa tecnológica mais ampla. Para Washington, a IA avançada se conecta à liderança econômica do país, à sua defesa e à sua comunidade de inteligência. Em 2023, o governo Biden apresentou a segurança da IA como um dos eixos a serem regulados por meio de ordem executiva. Em 2025, contudo, o governo Trump revogou isso e adotou um plano de IA voltado a preservar a liderança tecnológica estadunidense. O novo plano vinculou esse objetivo ao desenvolvimento de infraestrutura e à redução das barreiras regulatórias. Mesmo com essa mudança de ênfase, o governo dos Estados Unidos continuou a ligar a IA a compras públicas, cooperação com aliados e controles de exportação sobre chips avançados.

Os controles de exportação têm uma função estratégica clara, visto que os modelos de IA avançados exigem grande capacidade de processamento. Ao limitar o acesso chinês a chips de ponta, software e equipamentos de fabricação, os EUA tentam dificultar o desenvolvimento de sistemas chineses de supercomputação, vigilância avançada e modernização militar. Assim, a cadeia de suprimentos tecnológicos torna-se um instrumento de segurança nacional.

A China, por sua vez, responde com investimentos próprios, ampliação da regulação da IA e promoção de padrões internacionais sobre ela. Desde 2017, Pequim trata IA como prioridade de desenvolvimento e, em 2025, propôs a criação de uma Organização Mundial para a Cooperação em Inteligência Artificial. As regras chinesas sobre algoritmos, conteúdo sintético e IA generativa exigem que os modelos de IA sejam registrados, rotulados e avaliados por meio de testes de segurança. Na visão do governo chinês, isso é necessário para assegurar a estabilidade social, o controle dos conteúdos e a proteção contra os riscos militares. Além disso, há uma ênfase em reduzir a dependência tecnológica externa, de modo que as empresas chinesas consigam competir tanto na qualidade dos seus modelos quanto na robustez de sua infraestrutura digital.

A União Europeia ocupa uma terceira posição nessa disputa. Ela não concentra plataformas e infraestrutura de nuvem na mesma escala dos Estados Unidos e tampouco opera segundo o modelo chinês de partido-Estado. Sua força está em outro instrumento: a capacidade de usar o mercado interno para transformar valores jurídicos em exigências de acesso. Por isso, a regulação europeia funciona como poder diplomático indireto. Empresas que querem atuar no bloco precisam adaptar seus sistemas, e outros governos podem usar essas regras como referência para elaborar suas próprias normas. Nesse contexto, padrões técnicos, chips e nuvens tornam-se partes da mesma disputa, ao lado de regras de dados, financiamento de infraestrutura e confiança regulatória.

Para países de renda média e baixa, o dilema é diferente. Muitos deles precisam da IA para melhorar serviços públicos, produtividade agrícola, adaptação climática, educação e saúde. No entanto, o uso seguro dessas ferramentas depende de condições que nem sempre estão disponíveis: computação suficiente, dados de qualidade, especialistas e agências reguladoras capazes de avaliar sistemas complexos. Se esses países dependerem apenas de empresas estrangeiras, podem receber sistemas pouco adaptados a suas línguas, necessidades e riscos locais. Se ficarem fora dos fóruns de governança, as regras globais serão desenhadas sem levar em conta suas capacidades de implementação. Para esses países, a segurança da IA envolve acesso, soberania digital e proteção contra dependência tecnológica.

Por que a governança é difícil

A governança da IA é difícil, antes de tudo, porque a tecnologia muda mais rápido do que as instituições que tentam regulá-la. A primeira dificuldade é técnica. Sistemas avançados de IA são avaliados por testes que medem desempenho em tarefas específicas. Esses testes têm alcance limitado: a vida real reúne contextos, usuários e incentivos que não aparecem em laboratório. Um modelo pode parecer seguro em uma avaliação e produzir risco quando integrado a ferramentas externas, dados sensíveis ou decisões de alto impacto. Como os modelos mudam rapidamente, uma avaliação feita antes do lançamento pode envelhecer depressa. A governança, portanto, precisa acompanhar sistemas que continuam mudando depois de colocados em uso.

A segunda dificuldade é institucional. Empresas privadas concentram parte relevante da capacidade de desenvolvimento, enquanto governos precisam regular sistemas que nem sempre compreendem por completo. Autoridades públicas podem exigir transparência, auditoria e testes, mas essas exigências só funcionam quando o Estado consegue interpretá-las e verificá-las. Para fiscalizar bem, são necessários especialistas, infraestrutura e acesso a informações internas. Quando o setor regulado controla conhecimento técnico essencial, a fiscalização exige capacidade pública constante, equipe qualificada e autoridade legal para obter evidência técnica.

A terceira dificuldade é diplomática. Estados querem cooperação para evitar danos transfronteiriços e, ao mesmo tempo, buscam preservar vantagem tecnológica. Essa tensão aparece quando um governo defende segurança enquanto protege sua indústria nacional. Aparece também quando pede transparência de empresas estrangeiras e guarda segredo sobre usos militares próprios. Em casos mais graves, um Estado pode apoiar princípios de direitos humanos em fóruns multilaterais e usar IA para vigilância doméstica. Essa diferença entre discurso e prática enfraquece a confiança necessária para negociar regras comuns.

A quarta dificuldade é distributiva. A segurança custa dinheiro, porque depende de testes, auditoria de dados, treinamento de servidores públicos, infraestrutura e proteção de sistemas críticos. Muitos países precisam dos benefícios da IA e carecem de recursos para avaliar seus riscos de forma autônoma. Se adotam ferramentas importadas sem supervisão adequada, o risco não se distribui da mesma forma que o benefício. A governança internacional precisa lidar com essa desigualdade. Caso contrário, a IA avançada ampliará a distância entre países que fazem as regras e países que apenas recebem seus efeitos.

O que a segurança da IA pode fazer na prática

Uma política de segurança da IA precisa ligar risco, teste, supervisão e contestação. O primeiro passo é classificar riscos, porque nem todo uso de IA exige o mesmo grau de controle. A diferença aparece quando se compara a função do sistema. Um uso recreativo ou administrativo tende a afetar conforto, custo ou eficiência. Um sistema que prioriza atendimento em um hospital, por exemplo, pode alterar o acesso concreto a cuidado médico. Um modelo usado para apoiar seleção de alvos militares afeta outro tipo de risco, porque se aproxima do uso da força. A classificação ajuda a direcionar obrigações para os usos que podem causar maior dano.

O segundo elemento é testar antes e depois da implantação. Antes do uso, modelos precisam ser avaliados quanto à robustez, à tendência de produzir informação falsa e ao risco de discriminação. Depois da implantação, a avaliação deve observar segurança cibernética, comportamento em contextos inesperados e possível orientação a atividades perigosas. Como sistemas aprendem com atualizações, integrações e uso contínuo, a avaliação precisa acompanhar todo o ciclo de vida do produto.

O terceiro elemento é supervisão humana com autoridade real. Não basta dizer que há uma pessoa “no circuito” se essa pessoa não entende o sistema, não tem tempo para revisar a decisão ou não pode contrariar a recomendação automatizada. Supervisão relevante exige treinamento, documentação, registro de decisões e responsabilidade clara. Em usos militares e de infraestrutura crítica, isso significa definir previamente quais decisões podem receber apoio algorítmico e quais não devem ser automatizadas.

O quarto elemento é contestação. Pessoas afetadas por decisões automatizadas precisam saber quando a IA foi usada, quais informações foram relevantes e como recorrer. Sem esse caminho, a IA cria uma burocracia opaca. A decisão aparece como resultado técnico, e a pessoa afetada não consegue identificar o erro nem responsabilizar a instituição que a aplicou. A contestação, portanto, transforma a segurança em um direito procedimental, para além de uma promessa técnica.

O quinto elemento é cooperação internacional. Os padrões técnicos, o intercâmbio de incidentes e a capacitação podem reduzir riscos que nenhum país controla sozinho. A pesquisa pública e o diálogo diplomático cumprem a mesma função quando aproximam governos que têm capacidades muito diferentes. Essa cooperação precisa incluir empresas e pesquisadores sem deixar a governança nas mãos de quem lucra com a tecnologia. A legitimidade depende de participação pública suficiente para contestar escolhas técnicas que produzam efeitos políticos.

Limites e consequências diplomáticas

A segurança da IA continuará convivendo com conflito político em torno da tecnologia. Os Estados usarão a IA para buscar produtividade, vantagem militar, influência econômica e capacidade de vigilância. As empresas disputarão mercados, dados e infraestrutura. As sociedades precisarão decidir quais riscos aceitam em troca de eficiência, conveniência ou crescimento. A governança tenta administrar esses interesses por meio de limites, transparência e responsabilidade.

O ponto central para a diplomacia é que a IA faz da segurança uma disputa sobre infraestrutura. Quem controla os chips, as nuvens e os cabos controla parte das condições de ação dos demais. A energia, os dados, os padrões e os modelos completam essa base material. Essa estrutura dá poder a alguns Estados e empresas, mas também cria vulnerabilidades para quem depende deles. As cadeias de suprimentos podem ser interrompidas, os modelos podem ser usados contra seus criadores, as regras nacionais podem entrar em conflito e a dependência de poucos fornecedores pode afetar autonomia política.

Como a IA muda rapidamente, nasce em grande parte de empresas privadas, é distribuída entre muitos usos e produz efeitos que atravessam fronteiras, a segurança da IA dificilmente será organizada por um único instrumento. Tratados amplos podem surgir quando determinado dano exige compromisso jurídico mais estável, como ocorre em debates sobre direitos humanos, armas autônomas ou crimes digitais. Nos demais casos, a governança tende a avançar por camadas complementares, porque cada camada responde a uma limitação da anterior. Os padrões técnicos tornam princípios verificáveis ao convertê-los em testes e métricas. Para que esses testes ganhem direção política, as cúpulas ajudam a formar consenso antes de haver obrigações jurídicas. Ainda assim, o consenso de cúpula não basta para orientar a conduta cotidiana de empresas e governos. Por isso, os códigos de conduta ocupam o espaço intermediário entre voluntariedade e regulação, em uma etapa na qual a lei ainda não alcança todos os usos. As normas regionais, por fim, dão força jurídica a prioridades locais ao transformá-las em condições de acesso a mercados. Esse formato é imperfeito, mas reflete a natureza da tecnologia.

Essa combinação de velocidade tecnológica, concentração empresarial e disputa geopolítica torna mais provável uma governança em camadas do que um regime único. Nessa arquitetura, cada polo ocupa um lugar diferente porque controla instrumentos distintos. A União Europeia tende a atuar pela regulação de mercado, já que sua força está em transformar acesso ao bloco em difusão de padrões. Os Estados Unidos partem de sua base de inovação privada e de segurança nacional, usando infraestrutura e controles tecnológicos para preservar vantagem. A China liga a IA a desenvolvimento, controle interno e autonomia estratégica, de modo que suas regras sirvam tanto à competição tecnológica quanto à estabilidade política. A ONU, por sua vez, ocupa o espaço que esses polos não conseguem preencher sozinhos: legitimidade, inclusão e coordenação para países que não participam dos centros tecnológicos. Entre esses polos, os Estados médios tentarão adaptar regras, proteger seus dados e aproveitar benefícios sem se prender a uma única esfera tecnológica.

A segurança da IA, portanto, envolve, ao mesmo tempo, uma agenda técnica, a fim de obter modelos mais confiáveis, e uma agenda de poder sobre quem decide os limites da automação. Essa dupla dimensão define quem terá acesso aos benefícios da automação e quem responderá quando sistemas automatizados causarem dano. A importância diplomática da segurança da IA está nesse ponto: a IA já participa da forma como Estados administram informação, força, desenvolvimento e soberania. Governá-la significa disputar as condições sob as quais a tecnologia poderá servir à cooperação sem se tornar mais um mecanismo de dependência, coerção ou instabilidade.