Sicurezza dell’IA: rischi, governance e competizione strategica

La sicurezza dell’intelligenza artificiale comprende l’insieme di pratiche, regole e istituzioni create per ridurre i danni causati dai sistemi di IA. L’uso deliberato dell’IA può generare rischi quando la tecnologia viene impiegata per ingannare, sorvegliare o attaccare sistemi digitali. Inoltre, errori non intenzionali possono causare danni quando un modello produce risposte false o discrimina le persone. Il rischio aumenta quando il sistema nasconde i propri criteri decisionali o viene inserito in compiti per i quali non è stato testato. Nella diplomazia, queste questioni sono entrate al centro dell’agenda man mano che l’IA ha iniziato a incidere sulla competizione per l’informazione pubblica, le infrastrutture critiche e il potere tecnologico.

Il dibattito su questo tema comprende una domanda politica: chi avrà la capacità istituzionale e tecnologica sufficiente per orientare il ciclo di vita dei sistemi avanzati di IA? In larga misura, questa capacità appartiene alle imprese che controllano gli input centrali dell’intelligenza artificiale, così come agli Stati in cui tali imprese hanno sede. Chi dipende da questi sistemi deve fidarsi di regole elaborate da altri e accettare rischi che non può misurare da solo. Per questo motivo, la sicurezza dell’IA implica affidabilità tecnica e una disputa politica su potere, dipendenza e capacità regolatoria.

Sintesi

• I dibattiti sulla sicurezza dell’IA riguardano la riduzione dei danni causati da errori tecnici, discriminazione, disinformazione, sorveglianza, attacchi informatici, usi militari ed effetti sul mercato del lavoro.
• La governance internazionale dell’IA è ancora frammentata. Organizzazioni multilaterali, blocchi regionali, forum delle grandi economie e vertici specializzati hanno creato principi, codici e istituzioni con portata e forza giuridica molto diverse.
• L’IA è una tecnologia a duplice uso: gli stessi modelli che possono sostenere ricerca scientifica, istruzione, salute e logistica possono, in altri contesti, ampliare i rischi legati a operazioni militari, spionaggio, repressione, propaganda e minacce biologiche.
• La sicurezza dell’IA diventa più difficile in un ambiente di competizione strategica, nel quale le principali potenze internazionali trattano la tecnologia come fonte di potere, autonomia tecnologica e influenza sugli standard globali.
• La sfida principale della governance attuale dell’intelligenza artificiale è la disuguaglianza nella partecipazione dei paesi in via di sviluppo e nell’attuazione dei principi di governance.

Che cosa significa la sicurezza dell’IA

L’espressione «sicurezza dell’IA» ha una dimensione tecnica e una dimensione politico-sociale. In senso tecnico, si riferisce al tentativo di far funzionare in modo affidabile un sistema di intelligenza artificiale. Il modello di IA deve resistere alle manipolazioni, riconoscere i propri limiti, proteggere i dati sensibili e rimanere entro l’uso per cui è stato progettato. In senso sociale e politico, invece, l’espressione indica lo sforzo di ridurre gli effetti dannosi che l’IA può produrre sulle persone, sulle istituzioni e sulle relazioni internazionali.

Questa distinzione è necessaria: non ogni rischio corrisponde necessariamente a un difetto del software. Alcuni rischi nascono quando il sistema riproduce disuguaglianze precedenti; un modello di selezione del personale può funzionare come previsto e, allo stesso tempo, essere discriminatorio. Altri rischi derivano dall’apparenza di affidabilità: un modello di IA generativa può produrre un testo coerente e, nello stesso tempo, diffondere una menzogna. In questi casi, la sicurezza richiede una finalità legittima, supervisione e possibilità di contestazione per la persona interessata.

Il dibattito sulla sicurezza dell’IA generativa ha acquisito forza a partire dal 2022, quando la produzione automatica di contenuti digitali ha raggiunto una nuova scala. Da quel momento, interfacce relativamente semplici hanno iniziato a produrre contenuti e codice con grande facilità, anche per utenti senza conoscenze tecniche approfondite. Sebbene questa flessibilità porti diversi benefici, i suoi rischi sono considerevoli, dato che uno stesso modello può essere impiegato sia per fini positivi sia per fini malevoli.

La sicurezza dell’IA, quindi, non può essere ottenuta con una sola politica pubblica. Il comportamento dei modelli può essere regolato mediante test tecnici e strutture di governance, mentre i diritti umani e la protezione dei dati servono a difendere gli interessi delle persone colpite. Nelle questioni transfrontaliere, la sicurezza dell’IA si collega al controllo degli armamenti, agli standard industriali e alla cooperazione scientifica. La sfida diplomatica consiste nel formulare regole sull’IA prima che i danni da essa causati diventino irreversibili.

Principali rischi civili e sociali

Il rischio più ricorrente dell’IA riguarda il processo decisionale automatizzato in questioni sensibili. La selezione dei candidati incide sull’accesso al lavoro. La valutazione del credito incide sui consumi, sull’abitazione e sull’attività economica. La priorità assegnata ai pazienti incide sull’accesso alle cure sanitarie. Negli strumenti automatizzati di polizia o di verifica migratoria, il problema diventa ancora più grave quando la decisione può limitare la libertà, la circolazione e la permanenza regolare. In questo modo, se un sistema di IA usa dati distorti o criteri opachi, trasforma disuguaglianze precedenti in decisioni apparentemente neutrali.

Un altro rischio è l’erosione della fiducia pubblica dovuta all’uso abusivo dell’intelligenza artificiale. Riducendo il costo di produzione di contenuti su larga scala, i modelli di IA facilitano la disinformazione. Il rischio appare in due forme principali. Voci sintetiche e immagini false di autorità conferiscono a una menzogna un’apparenza umana e istituzionale. Documenti falsificati e notizie non veritiere, invece, danno alla falsificazione un’apparenza burocratica o giornalistica. Il danno causato da questi contenuti deriva dal fatto che sono prodotti a basso costo e appaiono plausibili. Per questo richiedono un grande sforzo da parte di istituzioni pubbliche, giornalisti e organi elettorali per essere smentiti.

La disinformazione amplia la polarizzazione accelerando la circolazione delle menzogne. Nei periodi elettorali o durante crisi di sicurezza, per esempio, i sistemi di IA possono essere utilizzati per creare messaggi personalizzati per determinati gruppi politici. Questi contenuti acquistano forza su internet e possono aumentare rapidamente la paura e la sfiducia della popolazione verso le istituzioni ufficiali. Per affrontare questa sfida, i governi democratici possono investire in strumenti legittimi di controllo. Tuttavia, nei regimi più autoritari, il contrasto alla disinformazione può servire da giustificazione per limitare il dibattito pubblico attraverso censura e sorveglianza statale.

I sistemi di IA pongono sfide significative alla privacy, data la loro dipendenza da grandi quantità di dati per essere addestrati, regolati o utilizzati. Quando trattano dati biometrici o cartelle cliniche, possono rivelare aspetti intimi delle persone. Quando gestiscono dati finanziari o tracce quotidiane, possono esporre abitudini personali. Il problema maggiore emerge quando i dati personali vengono riuniti su larga scala: in queste situazioni diventa difficile distinguere un sistema di IA efficiente da un sistema di sorveglianza. Questi rischi aumentano man mano che si diffondono banche dati, telecamere di riconoscimento facciale e sistemi automatizzati di valutazione dei comportamenti.

L’intelligenza artificiale comporta anche rischi materiali. Affinché sistemi di questo tipo siano addestrati e utilizzati, devono esistere centri dati di grande capacità. Ciò dipende non solo da chip avanzati, la cui fabbricazione richiede molti input, ma anche da reti elettriche e infrastrutture di raffreddamento dei server. Da un lato, i paesi ricchi d’acqua e dotati di una matrice energetica pulita possono trarne beneficio se hanno le condizioni per mantenere questi centri dati in modo sostenibile. Dall’altro lato, nei paesi con scarsità di risorse, o anche in scenari di espansione disordinata, la domanda di risorse computazionali può mettere sotto pressione i sistemi elettrici e di approvvigionamento idrico.

Duplice uso, guerra e sicurezza internazionale

L’IA è una tecnologia a duplice uso: la stessa capacità può servire a fini civili e militari. Questa dualità appare quando cambia la finalità del sistema. Un sistema di visione artificiale usato per riconoscere difetti industriali può essere adattato per identificare bersagli. Appare anche quando lo stesso trattamento dell’informazione cambia contesto: un modello capace di riassumere grandi volumi di testo può sostenere l’analisi diplomatica oppure rafforzare attività di intelligence militare e sorveglianza interna. Negli strumenti di pianificazione, la differenza sta nell’uso operativo: la stessa capacità che migliora la logistica umanitaria può organizzare operazioni informatiche. Poiché il rischio dipende dall’utente, dal contesto e dall’integrazione con altri sistemi, controlli semplici per categoria di software raramente bastano.

Nel campo militare, la sicurezza dell’IA dipende dalla responsabilità umana, dal controllo della velocità e dai limiti alla proliferazione. La responsabilità umana è il primo problema, dal momento che le decisioni militari non possono scomparire dentro una raccomandazione algoritmica. Se un sistema raccomanda un bersaglio, ordina un’intercettazione o assegna priorità a una minaccia, deve essere chiaro quale autorità risponde della decisione. La domanda diventa ancora più sensibile quando il sistema controlla un veicolo autonomo. Il diritto internazionale umanitario impone già distinzione tra combattenti e civili, proporzionalità e precauzione. L’IA conserva questi obblighi e rende più difficile dimostrare come siano stati rispettati quando la decisione passa attraverso modelli opachi.

Il secondo problema è la velocità. I sistemi automatici possono ridurre il tempo tra rilevazione, classificazione e risposta. In una crisi tra Stati armati, questa compressione del tempo può aumentare il rischio di escalation. Un falso allarme, un’interpretazione errata di un movimento militare o una decisione automatizzata di ritorsione può creare pressione ad agire prima che diplomatici e comandanti verifichino il contesto. In questo caso, la sicurezza dipende da limiti operativi e da canali di comunicazione che preservino il giudizio umano nelle decisioni critiche.

Il terzo problema è la proliferazione. I sistemi di IA non assomigliano alle armi nucleari, che richiedono materiali fisici specifici, impianti rilevabili e catene di produzione fortemente controllate. Modelli, dati e conoscenze possono circolare più facilmente. Tuttavia, le capacità più avanzate dipendono da chip ad alte prestazioni, cloud computing, specialisti e accesso a grandi insiemi di dati. Per questo, la politica di sicurezza ha iniziato a controllare i chip, a esigere protezione informatica e a usare valutazioni tecniche anche quando la tecnologia resta distribuita.

Le conferenze REAIM, avviate nel 2023 nei Paesi Bassi e proseguite nel 2024 in Corea del Sud, mostrano questa preoccupazione. Esse trattano l’uso responsabile dell’IA nel dominio militare, con enfasi sulla supervisione umana e sulla responsabilità per decisioni prese con supporto algoritmico. I loro documenti aiutano attori militari e civili a usare un linguaggio comune, anche se non creano ancora un trattato vincolante. Negoziando concetti su armi autonome e responsabilità umana, questi forum influenzano i termini che potranno sostenere norme future.

Come è emersa la governance internazionale dell’IA

La governance internazionale dell’IA è cresciuta per accumulo di forum. Non esiste ancora un trattato centrale sul tema. Prima dell’esplosione dell’IA generativa, la discussione esisteva già intorno all’etica algoritmica, ai diritti digitali e alla tecnologia militare. Nel 2021, l’UNESCO ha approvato una raccomandazione che pone la supervisione umana al servizio dei diritti umani e della sostenibilità nell’etica dell’IA. Il testo affronta privacy, non discriminazione e accesso equo ai benefici della tecnologia. L’OCSE e il G20 hanno consolidato principi sull’IA affidabile, l’innovazione e l’uso responsabile.

Il 2023 ha cambiato la scala politica del tema. Il G7 ha lanciato il Processo di Hiroshima sull’IA per sviluppare principi e un codice di condotta volontario per i sistemi avanzati. Nello stesso anno, il primo Vertice sulla sicurezza dell’IA, tenuto a Bletchley Park, ha prodotto una dichiarazione firmata da partecipanti come Brasile, Stati Uniti e Cina, oltre che dall’Unione europea. La dichiarazione ha dato centralità ai rischi dei modelli di frontiera, cioè sistemi generali molto capaci la cui potenza può generare usi difficili da prevedere.

L’ONU è entrata al centro dell’agenda quando l’IA ha iniziato a essere trattata nello stesso tempo come tema di sicurezza, sviluppo e diritti umani. Nel 2023, il Consiglio di sicurezza ha discusso di IA e sicurezza internazionale. La riunione ha trattato la disinformazione e i rischi informatici come problemi transfrontalieri e ha aperto spazio per discutere se gli usi militari dell’IA richiedano regole proprie. Nel 2024, l’Assemblea generale ha approvato risoluzioni sull’IA sicura per lo sviluppo sostenibile e sulla cooperazione internazionale in materia di capacità. Queste risoluzioni indicano un consenso politico minimo, anche se non hanno forza di trattato: l’IA deve rispettare i diritti umani, sostenere lo sviluppo e ridurre il divario digitale.

Il rapporto finale dell’Organo consultivo di alto livello dell’ONU sull’IA, pubblicato nel 2024, ha organizzato il problema in tre lacune che si rafforzano a vicenda. La rappresentanza è la prima: molti paesi, soprattutto del Sud globale, sono rimasti fuori da importanti iniziative plurilaterali. Questa esclusione rende più difficile il coordinamento, in quanto la moltiplicazione dei forum crea regole, standard e impegni senza meccanismi sufficienti per collegarli. Anche quando esistono principi comuni, emerge la terza lacuna: l’attuazione. I principi volontari non producono, da soli, capacità tecnica per eseguire regole e rendere conto delle decisioni.

Questa diagnosi ha portato a proposte come un panel scientifico internazionale sull’IA, un dialogo politico regolare e uno scambio internazionale di standard. Nel 2025, l’Assemblea generale ha iniziato a trasformare parte di questo disegno in istituzioni, creando un panel scientifico indipendente e un dialogo globale sulla governance dell’IA. Il pacchetto più ampio suggerito dall’ONU include anche una rete di formazione delle capacità, un fondo globale, un quadro sui dati e un ufficio per l’IA nel Segretariato. L’obiettivo è ridurre le asimmetrie informative e rendere la cooperazione meno dipendente da vertici occasionali, senza sostituire le regolazioni nazionali o regionali.

Anche il Processo di Bletchley è continuato dopo il 2024. Il vertice di Parigi del 2025 ha spostato parte del linguaggio dalla «sicurezza» all’«azione», all’inclusione e alla sostenibilità, mentre il Vertice sull’impatto dell’IA a Nuova Delhi, nel 2026, ha mantenuto la sequenza di incontri intergovernativi. Il cambiamento di vocabolario mostra una disputa multilaterale sulle priorità: alcuni governi vogliono concentrare l’agenda sui rischi dei modelli avanzati, mentre altri insistono su accesso, infrastrutture, sviluppo e partecipazione del Sud globale.

Il modello regolatorio europeo e i suoi effetti

L’Unione europea ha adottato l’AI Act per trasformare la sicurezza dell’IA in obblighi di mercato. La sua logica centrale consiste nel classificare gli usi dell’intelligenza artificiale in base ai rischi. Le pratiche considerate a rischio inaccettabile sono vietate quando minacciano autonomia, uguaglianza o controllo democratico a un livello incompatibile con un uso legittimo. È il caso dei sistemi di punteggio sociale e di alcune forme di manipolazione o identificazione biometrica. Le pratiche ad alto rischio, invece, devono rispettare obblighi di gestione del rischio, documentazione, qualità dei dati, supervisione umana, robustezza, cybersicurezza e trasparenza. Nella classificazione dell’UE, questa categoria copre usi capaci di incidere su diritti e servizi essenziali. Riguarda quindi le infrastrutture che sostengono funzioni sociali di base, i sistemi educativi e lavorativi che condizionano le opportunità e i processi decisionali statali che possono modificare diritti, prestazioni o situazioni giuridiche.

In termini diplomatici, l’AI Act conta in quanto regola l’accesso al mercato europeo delle imprese che utilizzano intelligenza artificiale. Le imprese straniere che operano nell’Unione europea devono adeguare i propri sistemi alle norme del blocco; per questo, tali regole possono produrre effetti globali. È quanto è avvenuto in parte con le leggi europee sulla protezione dei dati. Inoltre, l’AI Act serve da riferimento per altri paesi che vogliano regolare l’intelligenza artificiale senza partire da zero.

Tuttavia, la portata di questo regolamento europeo ha limiti. Sebbene sia entrato in vigore nel 2024, i suoi obblighi hanno iniziato ad applicarsi per fasi, generando una disputa politica e imprenditoriale sull’attuazione. Inoltre, alcuni temi restano fuori dalla portata dell’AI Act, come i rischi militari, le questioni di sicurezza nazionale e gli squilibri nell’accesso mondiale al calcolo avanzato. In questo modo, il principale valore del regolamento sta nel mostrare come i dibattiti sulla sicurezza dell’IA possano tradursi in obblighi giuridici verificabili.

Stati Uniti, Cina e competizione strategica

Gli Stati Uniti e la Cina trattano l’IA come parte di una disputa tecnologica più ampia. Per Washington, l’IA avanzata si collega alla leadership economica del paese, alla sua difesa e alla sua comunità di intelligence. Nel 2023, il governo Biden ha presentato la sicurezza dell’IA come uno degli assi da regolare tramite ordine esecutivo. Nel 2025, tuttavia, il governo Trump ha revocato quell’impostazione e ha adottato un piano sull’IA volto a preservare la leadership tecnologica statunitense. Il nuovo piano ha legato questo obiettivo allo sviluppo delle infrastrutture e alla riduzione delle barriere regolatorie. Anche con questo cambio di enfasi, il governo degli Stati Uniti ha continuato a collegare l’IA agli acquisti pubblici, alla cooperazione con gli alleati e ai controlli all’esportazione sui chip avanzati.

I controlli all’esportazione hanno una funzione strategica chiara, visto che i modelli avanzati di IA richiedono grande capacità di elaborazione. Limitando l’accesso cinese a chip di punta, software e attrezzature di fabbricazione, gli Stati Uniti cercano di rendere più difficile lo sviluppo di sistemi cinesi di supercalcolo, sorveglianza avanzata e modernizzazione militare. Così, la catena di approvvigionamento tecnologica diventa uno strumento di sicurezza nazionale.

La Cina, a sua volta, risponde con investimenti propri, ampliamento della regolazione dell’IA e promozione di standard internazionali sulla tecnologia. Dal 2017, Pechino considera l’IA una priorità di sviluppo e, nel 2025, ha proposto la creazione di un’Organizzazione mondiale per la cooperazione nell’intelligenza artificiale. Le regole cinesi su algoritmi, contenuti sintetici e IA generativa richiedono che i modelli di IA siano registrati, etichettati e valutati tramite test di sicurezza. Secondo il governo cinese, ciò è necessario per assicurare la stabilità sociale, il controllo dei contenuti e la protezione contro i rischi militari. Inoltre, vi è un’enfasi sulla riduzione della dipendenza tecnologica esterna, in modo che le imprese cinesi possano competere sia nella qualità dei loro modelli sia nella solidità della loro infrastruttura digitale.

L’Unione europea occupa una terza posizione in questa disputa. Non concentra piattaforme e infrastrutture cloud nella stessa misura degli Stati Uniti e non opera secondo il modello cinese di partito-Stato. La sua forza risiede in un altro strumento: la capacità di usare il mercato interno per trasformare valori giuridici in requisiti di accesso. Per questo motivo, la regolazione europea funziona come potere diplomatico indiretto. Le imprese che vogliono operare nel blocco devono adattare i propri sistemi, e altri governi possono usare queste regole come riferimento per elaborare le proprie norme. In questo contesto, standard tecnici, chip e cloud diventano parti della stessa disputa, accanto alle regole sui dati, al finanziamento delle infrastrutture e alla fiducia regolatoria.

Per i paesi a reddito medio e basso, il dilemma è diverso. Molti di essi hanno bisogno dell’IA per migliorare servizi pubblici, produttività agricola, adattamento climatico, istruzione e salute. Tuttavia, l’uso sicuro di questi strumenti dipende da condizioni che non sono sempre disponibili: potenza di calcolo sufficiente, dati di qualità, specialisti e agenzie regolatorie capaci di valutare sistemi complessi. Se questi paesi dipendono solo da imprese straniere, possono ricevere sistemi poco adattati alle loro lingue, ai loro bisogni e ai loro rischi locali. Se restano fuori dai forum di governance, le regole globali saranno disegnate senza considerare le loro capacità di attuazione. Per questi paesi, la sicurezza dell’IA implica accesso, sovranità digitale e protezione contro la dipendenza tecnologica.

Perché la governance è difficile

La governance dell’IA è difficile, prima di tutto, per la velocità con cui la tecnologia cambia rispetto alle istituzioni che cercano di regolarla. La prima difficoltà è tecnica. I sistemi avanzati di IA sono valutati tramite test che misurano la prestazione in compiti specifici. Questi test hanno portata limitata: la vita reale riunisce contesti, utenti e incentivi che non compaiono in laboratorio. Un modello può sembrare sicuro in una valutazione e produrre rischio quando viene integrato con strumenti esterni, dati sensibili o decisioni ad alto impatto. Poiché i modelli cambiano rapidamente, una valutazione svolta prima del lancio può invecchiare in fretta. La governance, quindi, deve seguire sistemi che continuano a cambiare dopo essere stati messi in uso.

La seconda difficoltà è istituzionale. Le imprese private concentrano una parte rilevante della capacità di sviluppo, mentre i governi devono regolare sistemi che non sempre comprendono pienamente. Le autorità pubbliche possono esigere trasparenza, audit e test, ma queste richieste funzionano solo quando lo Stato riesce a interpretarle e verificarle. Per vigilare bene servono specialisti, infrastrutture e accesso a informazioni interne. Quando il settore regolato controlla conoscenze tecniche essenziali, la vigilanza richiede capacità pubblica costante, personale qualificato e autorità legale per ottenere prove tecniche.

La terza difficoltà è diplomatica. Gli Stati vogliono cooperazione per evitare danni transfrontalieri e, allo stesso tempo, cercano di preservare il vantaggio tecnologico. Questa tensione appare quando un governo difende la sicurezza mentre protegge la propria industria nazionale. Appare anche quando chiede trasparenza alle imprese straniere e mantiene segreti i propri usi militari. Nei casi più gravi, uno Stato può sostenere principi di diritti umani nei forum multilaterali e usare l’IA per la sorveglianza interna. Questa differenza tra discorso e pratica indebolisce la fiducia necessaria per negoziare regole comuni.

La quarta difficoltà è distributiva. La sicurezza costa denaro: dipende da test, audit dei dati, formazione dei funzionari pubblici, infrastrutture e protezione dei sistemi critici. Molti paesi hanno bisogno dei benefici dell’IA e non dispongono delle risorse per valutarne autonomamente i rischi. Se adottano strumenti importati senza supervisione adeguata, il rischio non si distribuisce nello stesso modo del beneficio. La governance internazionale deve affrontare questa disuguaglianza. In caso contrario, l’IA avanzata amplierà la distanza tra i paesi che scrivono le regole e quelli che ne ricevono soltanto gli effetti.

Che cosa può fare in pratica la sicurezza dell’IA

Una politica di sicurezza dell’IA deve collegare rischio, test, supervisione e contestazione. Il primo passo è classificare i rischi: non ogni uso dell’IA richiede lo stesso grado di controllo. La differenza appare quando si confronta la funzione del sistema. Un uso ricreativo o amministrativo tende a incidere su comfort, costo o efficienza. Un sistema che assegna priorità alle cure in un ospedale, per esempio, può modificare l’accesso concreto alle prestazioni sanitarie. Un modello usato per sostenere la selezione di bersagli militari comporta un altro tipo di rischio, avvicinandosi all’uso della forza. La classificazione aiuta a indirizzare gli obblighi verso gli usi che possono causare il danno maggiore.

Il secondo elemento è testare prima e dopo l’implementazione. Prima dell’uso, i modelli devono essere valutati quanto a robustezza, tendenza a produrre informazioni false e rischio di discriminazione. Dopo l’implementazione, la valutazione deve osservare cybersicurezza, comportamento in contesti inattesi e possibile orientamento verso attività pericolose. Siccome i sistemi apprendono tramite aggiornamenti, integrazioni e uso continuo, la valutazione deve accompagnare l’intero ciclo di vita del prodotto.

Il terzo elemento è una supervisione umana con autorità reale. Non basta dire che una persona è «nel circuito» se quella persona non comprende il sistema, non ha tempo per rivedere la decisione o non può contraddire la raccomandazione automatizzata. Una supervisione rilevante richiede formazione, documentazione, registrazione delle decisioni e responsabilità chiara. Negli usi militari e nelle infrastrutture critiche, questo significa definire in anticipo quali decisioni possono ricevere supporto algoritmico e quali non devono essere automatizzate.

Il quarto elemento è la contestazione. Le persone colpite da decisioni automatizzate devono sapere quando è stata usata l’IA, quali informazioni sono state rilevanti e come presentare ricorso. Senza questo percorso, l’IA crea una burocrazia opaca. La decisione appare come un risultato tecnico, e la persona interessata non riesce a identificare l’errore né a chiamare a rispondere l’istituzione che l’ha applicata. La contestazione, quindi, trasforma la sicurezza in un diritto procedurale, oltre una promessa tecnica.

Il quinto elemento è la cooperazione internazionale. Gli standard tecnici, lo scambio sugli incidenti e la formazione delle capacità possono ridurre rischi che nessun paese controlla da solo. La ricerca pubblica e il dialogo diplomatico svolgono la stessa funzione quando avvicinano governi con capacità molto diverse. Questa cooperazione deve includere imprese e ricercatori senza lasciare la governance nelle mani di chi trae profitto dalla tecnologia. La legittimità dipende da una partecipazione pubblica sufficiente a contestare scelte tecniche che producono effetti politici.

Limiti e conseguenze diplomatiche

La sicurezza dell’IA continuerà a convivere con il conflitto politico intorno alla tecnologia. Gli Stati useranno l’IA per cercare produttività, vantaggio militare, influenza economica e capacità di sorveglianza. Le imprese si contenderanno mercati, dati e infrastrutture. Le società dovranno decidere quali rischi accettare in cambio di efficienza, comodità o crescita. La governance cerca di amministrare questi interessi attraverso limiti, trasparenza e responsabilità.

Il punto centrale per la diplomazia è che l’IA trasforma la sicurezza in una disputa sulle infrastrutture. Chi controlla chip, cloud e cavi controlla parte delle condizioni d’azione degli altri. Energia, dati, standard e modelli completano questa base materiale. Questa struttura dà potere ad alcuni Stati e imprese, ma crea anche vulnerabilità per chi dipende da loro. Le catene di approvvigionamento possono essere interrotte, i modelli possono essere usati contro i loro creatori, le regole nazionali possono entrare in conflitto e la dipendenza da pochi fornitori può incidere sull’autonomia politica.

Poiché l’IA cambia rapidamente, nasce in gran parte da imprese private, si distribuisce tra molti usi e produce effetti che attraversano le frontiere, difficilmente la sua sicurezza sarà organizzata da un solo strumento. Trattati ampi possono emergere quando un determinato danno richiede un impegno giuridico più stabile, come accade nei dibattiti su diritti umani, armi autonome o crimini digitali. Negli altri casi, la governance tende ad avanzare per strati complementari: ogni strato risponde a un limite del precedente. Gli standard tecnici rendono verificabili i principi trasformandoli in test e metriche. Affinché questi test acquisiscano direzione politica, i vertici aiutano a formare consenso prima che esistano obblighi giuridici. Tuttavia, il consenso dei vertici non basta a orientare la condotta quotidiana di imprese e governi. Per questo, i codici di condotta occupano lo spazio intermedio tra volontarietà e regolazione, in una fase in cui la legge non raggiunge ancora tutti gli usi. Le norme regionali, infine, danno forza giuridica alle priorità locali trasformandole in condizioni di accesso ai mercati. Questo formato è imperfetto, ma riflette la natura della tecnologia.

Questa combinazione di velocità tecnologica, concentrazione imprenditoriale e disputa geopolitica rende più probabile una governance a strati che un regime unico. In questa architettura, ogni polo occupa un posto diverso in ragione degli strumenti che controlla. L’Unione europea tende ad agire tramite la regolazione del mercato, poiché la sua forza sta nel trasformare l’accesso al blocco in diffusione di standard. Gli Stati Uniti partono dalla loro base di innovazione privata e di sicurezza nazionale, usando infrastrutture e controlli tecnologici per preservare il vantaggio. La Cina collega l’IA a sviluppo, controllo interno e autonomia strategica, in modo che le sue regole servano sia la competizione tecnologica sia la stabilità politica. L’ONU, a sua volta, occupa lo spazio che questi poli non riescono a riempire da soli: legittimità, inclusione e coordinamento per paesi che non partecipano ai centri tecnologici. Tra questi poli, gli Stati medi cercheranno di adattare regole, proteggere i propri dati e sfruttare i benefici senza legarsi a un’unica sfera tecnologica.

La sicurezza dell’IA, dunque, implica allo stesso tempo un’agenda tecnica, volta a ottenere modelli più affidabili, e un’agenda di potere su chi decide i limiti dell’automazione. Questa doppia dimensione definisce chi avrà accesso ai benefici dell’automazione e chi risponderà quando i sistemi automatizzati causeranno danni. L’importanza diplomatica della sicurezza dell’IA sta in questo punto: l’IA partecipa già al modo in cui gli Stati amministrano informazione, forza, sviluppo e sovranità. Governarla significa disputare le condizioni in cui la tecnologia potrà servire la cooperazione senza diventare un altro meccanismo di dipendenza, coercizione o instabilità.