KI-Sicherheit: Risiken, Governance und strategischer Wettbewerb

KI-Sicherheit umfasst die Praktiken, Regeln und Institutionen, die Schäden durch Systeme künstlicher Intelligenz verringern sollen. Der absichtliche Einsatz von KI kann Risiken schaffen, wenn die Technologie zur Täuschung, Überwachung oder zum Angriff auf digitale Systeme genutzt wird. Darüber hinaus können unbeabsichtigte Fehler Schäden verursachen, wenn ein Modell falsche Antworten erzeugt oder Menschen diskriminiert. Das Risiko steigt, wenn das System seine Entscheidungskriterien verbirgt oder für Aufgaben eingesetzt wird, für die es nicht getestet wurde. In der Diplomatie rückten diese Fragen in den Mittelpunkt, als KI begann, den Streit um öffentliche Information, kritische Infrastruktur und technologische Macht zu beeinflussen.

Die Debatte über dieses Thema enthält eine politische Frage: Wer verfügt über die institutionelle und technologische Fähigkeit, den Lebenszyklus fortgeschrittener KI-Systeme zu steuern? In hohem Maße liegt diese Fähigkeit bei den Unternehmen, die die zentralen Voraussetzungen künstlicher Intelligenz kontrollieren, sowie bei den Staaten, in denen diese Unternehmen ansässig sind. Wer von solchen Systemen abhängt, muss Regeln vertrauen, die andere ausgearbeitet haben, und Risiken akzeptieren, die er allein nicht messen kann. Deshalb umfasst KI-Sicherheit technische Zuverlässigkeit und einen politischen Streit über Macht, Abhängigkeit und Regulierungskapazität.

Zusammenfassung

• Debatten über KI-Sicherheit behandeln die Verringerung von Schäden durch technische Fehler, Diskriminierung, Desinformation, Überwachung, Cyberangriffe, militärische Nutzung und Auswirkungen auf den Arbeitsmarkt.
• Die internationale KI-Governance ist weiterhin fragmentiert. Multilaterale Organisationen, regionale Blöcke, Foren großer Volkswirtschaften und spezialisierte Gipfel haben Prinzipien, Kodizes und Institutionen geschaffen, deren Reichweite und Rechtskraft sehr unterschiedlich sind.
• KI ist eine Technologie mit doppeltem Verwendungszweck: Dieselben Modelle, die wissenschaftliche Forschung, Bildung, Gesundheit und Logistik unterstützen können, können in anderen Kontexten Risiken im Zusammenhang mit militärischen Operationen, Spionage, Repression, Propaganda und biologischen Bedrohungen ausweiten.
• KI-Sicherheit wird in einem Umfeld strategischen Wettbewerbs schwieriger, in dem die wichtigsten Mächte die Technologie als Quelle von Macht, technologischer Autonomie und Einfluss auf globale Standards behandeln.
• Die größte Herausforderung der gegenwärtigen KI-Governance liegt in der ungleichen Beteiligung von Entwicklungsländern und in der ungleichen Umsetzung von Governance-Prinzipien.

Was KI-Sicherheit bedeutet

Der Ausdruck „KI-Sicherheit“ hat eine technische und eine sozial-politische Ebene. In einem technischen Sinn bezeichnet er den Versuch, ein System künstlicher Intelligenz zuverlässig funktionieren zu lassen. Das KI-Modell muss Manipulationen widerstehen, seine eigenen Grenzen erkennen, sensible Daten schützen und innerhalb des Einsatzbereichs bleiben, für den es entwickelt wurde. In einem sozialen und politischen Sinn bezeichnet der Ausdruck den Versuch, schädliche Auswirkungen zu verringern, die KI für Menschen, Institutionen und internationale Beziehungen hervorbringen kann.

Diese Unterscheidung ist notwendig: Nicht jedes Risiko ist zwangsläufig ein Softwarefehler. Manche Risiken entstehen, wenn das System frühere Ungleichheiten reproduziert; ein Modell für Bewerbungsverfahren kann wie vorgesehen funktionieren und dennoch diskriminieren. Andere Risiken entstehen aus dem Anschein von Zuverlässigkeit: Ein generatives KI-Modell kann einen kohärenten Text erzeugen und zugleich eine Lüge verbreiten. In solchen Fällen verlangt Sicherheit einen legitimen Zweck, Aufsicht und eine Möglichkeit für die betroffene Person, die Entscheidung anzufechten.

Die Debatte über die Sicherheit generativer KI gewann ab 2022 an Gewicht, als die automatische Produktion digitaler Inhalte eine neue Größenordnung erreichte. Von da an konnten vergleichsweise einfache Schnittstellen Inhalte und Code mit großer Leichtigkeit erzeugen, auch für Nutzer ohne tiefes technisches Wissen. Obwohl diese Flexibilität mehrere Vorteile bringt, sind ihre Risiken erheblich, da dasselbe Modell für positive Zwecke oder für schädliche Zwecke eingesetzt werden kann.

KI-Sicherheit kann daher nicht durch eine einzige öffentliche Politik erreicht werden. Das Verhalten von Modellen kann durch technische Tests und Governance-Strukturen reguliert werden, während Menschenrechte und Datenschutz die Interessen betroffener Personen schützen. Bei grenzüberschreitenden Fragen steht KI-Sicherheit in Verbindung mit Rüstungskontrolle, industriellen Standards und wissenschaftlicher Zusammenarbeit. Die diplomatische Herausforderung besteht darin, Regeln für KI zu formulieren, bevor die von ihr verursachten Schäden unumkehrbar werden.

Zivile und gesellschaftliche Hauptrisiken

Das häufigste KI-Risiko betrifft automatisierte Entscheidungen in sensiblen Bereichen. Die Auswahl von Bewerbern beeinflusst den Zugang zu Arbeit. Die Kreditbewertung beeinflusst Konsum, Wohnen und wirtschaftliche Tätigkeit. Die Priorisierung von Patienten beeinflusst den Zugang zu Gesundheitsversorgung. Bei automatisierten Polizeiinstrumenten oder Migrationsprüfungen wird das Problem noch ernster, wenn die Entscheidung Freiheit, Bewegungsfreiheit und rechtmäßigen Aufenthalt einschränken kann. Wenn ein KI-System verzerrte Daten oder undurchsichtige Kriterien nutzt, verwandelt es frühere Ungleichheiten in scheinbar neutrale Entscheidungen.

Ein weiteres Risiko ist die Erosion öffentlichen Vertrauens durch missbräuchliche Nutzung künstlicher Intelligenz. Indem KI-Modelle die Kosten der Massenproduktion von Inhalten senken, erleichtern sie Desinformation. Das Risiko erscheint in zwei Hauptformen. Synthetische Stimmen und falsche Bilder von Amtsträgern verleihen einer Lüge ein menschliches und institutionelles Aussehen. Gefälschte Dokumente und unwahre Nachrichten geben der Fälschung wiederum eine bürokratische oder journalistische Form. Der Schaden dieser Inhalte entsteht daraus, dass sie billig herzustellen sind und plausibel wirken. Deshalb erfordern sie große Anstrengungen öffentlicher Institutionen, von Journalisten und Wahlbehörden, bevor sie widerlegt werden können.

Desinformation verstärkt Polarisierung, indem sie die Verbreitung von Lügen beschleunigt. In Wahlperioden oder während Sicherheitskrisen können KI-Systeme zum Beispiel genutzt werden, um personalisierte Botschaften für bestimmte politische Gruppen zu erzeugen. Solche Inhalte gewinnen im Internet an Wirkung und können schnell Angst und Misstrauen gegenüber offiziellen Institutionen vergrößern. Demokratische Regierungen können diesem Problem mit legitimen Kontrollinstrumenten begegnen. In autoritäreren Regimen kann der Kampf gegen Desinformation jedoch als Rechtfertigung dienen, die öffentliche Debatte durch Zensur und staatliche Überwachung einzuschränken.

KI-Systeme stellen erhebliche Herausforderungen für die Privatsphäre dar, da sie für Training, Anpassung oder Nutzung auf große Datenmengen angewiesen sind. Wenn sie biometrische Daten oder Gesundheitsakten verarbeiten, können sie intime Muster von Personen offenlegen. Wenn sie Finanzdaten oder alltägliche Spuren verarbeiten, können sie persönliche Routinen sichtbar machen. Das größere Problem entsteht, wenn personenbezogene Daten in großem Maßstab zusammengeführt werden: In solchen Situationen wird es schwierig, ein effizientes KI-System von einem Überwachungssystem zu unterscheiden. Diese Risiken nehmen zu, je mehr Datenbanken, Gesichtserkennungskameras und automatisierte Systeme zur Verhaltensbewertung verbreitet werden.

Künstliche Intelligenz schafft auch materielle Risiken. Damit Systeme dieser Art trainiert und betrieben werden können, müssen leistungsfähige Rechenzentren vorhanden sein. Das hängt nicht nur von fortgeschrittenen Chips ab, deren Herstellung viele Vorprodukte erfordert, sondern auch von Stromnetzen und Infrastrukturen zur Serverkühlung. Einerseits können Länder mit reichlich Wasser und sauberer Energieversorgung profitieren, sofern sie solche Rechenzentren nachhaltig betreiben können. Andererseits kann in Ländern mit knappen Ressourcen oder bei ungeordneter Expansion die Nachfrage nach Rechenressourcen Strom- und Wasserversorgungssysteme unter Druck setzen.

Doppelte Nutzung, Krieg und internationale Sicherheit

KI ist eine Technologie mit doppeltem Verwendungszweck: Dieselbe Fähigkeit kann zivilen und militärischen Zwecken dienen. Diese Dualität erscheint, wenn sich der Zweck des Systems ändert. Ein Computer-Vision-System, das industrielle Defekte erkennt, kann zur Zielerkennung angepasst werden. Sie erscheint auch, wenn dieselbe Informationsverarbeitung in einen anderen Kontext gelangt: Ein Modell, das große Textmengen zusammenfassen kann, kann diplomatische Analyse unterstützen oder militärische Aufklärung und innere Überwachung stärken. Bei Planungsinstrumenten liegt der Unterschied im operativen Einsatz, da dieselbe Fähigkeit, die humanitäre Logistik verbessert, Cyberoperationen organisieren kann. Da das Risiko vom Nutzer, vom Kontext und von der Integration mit anderen Systemen abhängt, reichen einfache Kontrollen nach Softwarekategorie selten aus.

Im militärischen Bereich hängt KI-Sicherheit von menschlicher Verantwortung, Geschwindigkeitskontrolle und Grenzen der Verbreitung ab. Menschliche Verantwortung ist das erste Problem, denn militärische Entscheidungen dürfen nicht in einer algorithmischen Empfehlung verschwinden. Wenn ein System ein Ziel empfiehlt, eine Abfangmaßnahme anordnet oder eine Bedrohung priorisiert, muss klar sein, welche Autorität für die Entscheidung verantwortlich ist. Die Frage wird noch sensibler, wenn das System ein autonomes Fahrzeug steuert. Das humanitäre Völkerrecht verlangt bereits Unterscheidung zwischen Kombattanten und Zivilpersonen, Verhältnismäßigkeit und Vorsorge. KI lässt diese Pflichten bestehen und macht es schwieriger nachzuweisen, wie sie erfüllt wurden, wenn die Entscheidung durch undurchsichtige Modelle läuft.

Das zweite Problem ist Geschwindigkeit. Automatische Systeme können die Zeit zwischen Erkennung, Klassifikation und Reaktion verkürzen. In einer Krise zwischen bewaffneten Staaten kann diese Zeitverdichtung das Eskalationsrisiko erhöhen. Ein Fehlalarm, eine falsche Interpretation militärischer Bewegungen oder eine automatisierte Vergeltungsentscheidung kann Druck erzeugen, zu handeln, bevor Diplomaten und Kommandeure den Kontext geprüft haben. In diesem Fall hängt Sicherheit von operativen Grenzen und Kommunikationskanälen ab, die menschliches Urteil bei kritischen Entscheidungen bewahren.

Das dritte Problem ist Proliferation. KI-Systeme ähneln nicht nuklearen Waffen, die bestimmte physische Materialien, erkennbare Anlagen und stark kontrollierte Produktionsketten verlangen. Modelle, Daten und Wissen können leichter zirkulieren. Dennoch hängen die fortgeschrittensten Fähigkeiten von Hochleistungschips, Cloud-Computing, Fachleuten und Zugang zu großen Datensätzen ab. Deshalb hat Sicherheitspolitik begonnen, Chips zu kontrollieren, Cyberschutz zu verlangen und technische Bewertungen zu nutzen, auch wenn die Technologie weiterhin verteilt bleibt.

Die REAIM-Konferenzen, die 2023 in den Niederlanden begannen und 2024 in Südkorea fortgesetzt wurden, zeigen diese Sorge. Sie behandeln den verantwortungsvollen Einsatz von KI im militärischen Bereich, mit Schwerpunkt auf menschlicher Aufsicht und Rechenschaft für Entscheidungen mit algorithmischer Unterstützung. Ihre Dokumente helfen militärischen und zivilen Akteuren, eine gemeinsame Sprache zu verwenden, auch wenn sie noch keinen verbindlichen Vertrag schaffen. Indem diese Foren Begriffe zu autonomen Waffen und menschlicher Verantwortung verhandeln, beeinflussen sie die Grundlagen möglicher künftiger Normen.

Wie internationale KI-Governance entstand

Internationale KI-Governance wuchs durch die Anhäufung von Foren. Einen zentralen Vertrag zu diesem Thema gibt es noch nicht. Vor dem Durchbruch generativer KI existierte die Diskussion bereits im Zusammenhang mit algorithmischer Ethik, digitalen Rechten und Militärtechnologie. 2021 verabschiedete die UNESCO eine Empfehlung, die menschliche Aufsicht in den Dienst von Menschenrechten und Nachhaltigkeit in der KI-Ethik stellt. Der Text behandelt Privatsphäre, Nichtdiskriminierung und gerechten Zugang zu den Vorteilen der Technologie. Die OECD und die G20 konsolidierten Prinzipien zu vertrauenswürdiger KI, Innovation und verantwortungsvoller Nutzung.

Das Jahr 2023 veränderte die politische Größenordnung des Themas. Die G7 startete den Hiroshima-KI-Prozess, um Prinzipien und einen freiwilligen Verhaltenskodex für fortgeschrittene Systeme zu entwickeln. Im selben Jahr brachte der erste KI-Sicherheitsgipfel in Bletchley Park eine Erklärung hervor, die unter anderem von Brasilien, den Vereinigten Staaten, China und der Europäischen Union unterzeichnet wurde. Die Erklärung rückte die Risiken von Frontier-Modellen in den Mittelpunkt, also sehr leistungsfähigen allgemeinen Systemen, deren Stärke schwer vorhersehbare Verwendungen ermöglichen kann.

Die Vereinten Nationen rückten in den Mittelpunkt der Agenda, als KI zugleich als Thema von Sicherheit, Entwicklung und Menschenrechten behandelt wurde. 2023 diskutierte der Sicherheitsrat über KI und internationale Sicherheit. Die Sitzung behandelte Desinformation und Cyberrisiken als grenzüberschreitende Probleme und eröffnete Raum für die Frage, ob militärische KI-Nutzungen eigene Regeln benötigen. 2024 verabschiedete die Generalversammlung Resolutionen zu sicherer KI für nachhaltige Entwicklung und zu internationaler Zusammenarbeit beim Kapazitätsaufbau. Diese Resolutionen zeigen einen minimalen politischen Konsens, auch wenn sie keine Vertragskraft haben: KI soll Menschenrechte achten, Entwicklung unterstützen und die digitale Kluft verringern.

Der Abschlussbericht des Hochrangigen Beratungsgremiums der Vereinten Nationen zu KI, der 2024 veröffentlicht wurde, ordnete das Problem um drei Lücken, die einander verstärken. Die erste ist die Repräsentation: Viele Länder, vor allem aus dem Globalen Süden, blieben außerhalb wichtiger plurilateraler Initiativen. Dieser Ausschluss erschwert Koordination, da die Vervielfachung von Foren Regeln, Standards und Verpflichtungen schafft, ohne ausreichende Mechanismen zu ihrer Verbindung bereitzustellen. Selbst wenn gemeinsame Prinzipien bestehen, erscheint eine dritte Lücke: die Umsetzung. Freiwillige Prinzipien erzeugen für sich genommen keine technische Fähigkeit, Regeln auszuführen und Rechenschaft abzulegen.

Diese Diagnose führte zu Vorschlägen wie einem internationalen wissenschaftlichen Gremium zu KI, einem regelmäßigen politischen Dialog und einem internationalen Austausch über Standards. 2025 begann die Generalversammlung, Teile dieses Entwurfs in Institutionen zu überführen, indem sie ein unabhängiges wissenschaftliches Gremium und einen globalen Dialog über KI-Governance schuf. Das umfassendere von den Vereinten Nationen vorgeschlagene Paket enthält außerdem ein Netzwerk zum Kapazitätsaufbau, einen globalen Fonds, einen Datenrahmen und ein KI-Büro im Sekretariat. Ziel ist es, Informationsasymmetrien zu verringern und Zusammenarbeit weniger abhängig von gelegentlichen Gipfeln zu machen, ohne nationale oder regionale Regulierung zu ersetzen.

Auch der Bletchley-Prozess setzte sich nach 2024 fort. Der Pariser Gipfel von 2025 verschob einen Teil der Sprache von „Sicherheit“ zu „Handeln“, Inklusion und Nachhaltigkeit, während der KI-Wirkungsgipfel in Neu-Delhi 2026 die Reihe zwischenstaatlicher Treffen fortführte. Der Wandel der Begriffe zeigt einen multilateralen Prioritätenstreit: Manche Regierungen wollen die Agenda auf Risiken fortgeschrittener Modelle konzentrieren, während andere auf Zugang, Infrastruktur, Entwicklung und Beteiligung des Globalen Südens bestehen.

Das europäische Regulierungsmodell und seine Wirkungen

Die Europäische Union verabschiedete den AI Act, um KI-Sicherheit in Marktpflichten zu übersetzen. Seine zentrale Logik besteht darin, Nutzungen künstlicher Intelligenz nach ihren Risiken zu klassifizieren. Praktiken mit unannehmbarem Risiko sind verboten, weil sie Autonomie, Gleichheit oder demokratische Kontrolle in einem Maß bedrohen, das mit legitimer Nutzung unvereinbar ist. Das gilt für Systeme sozialer Bewertung und für bestimmte Formen von Manipulation oder biometrischer Identifizierung. Hochrisikopraktiken müssen dagegen Pflichten zu Risikomanagement, Dokumentation, Datenqualität, menschlicher Aufsicht, Robustheit, Cybersicherheit und Transparenz erfüllen. In der EU-Klassifikation betrifft diese Kategorie Nutzungen, die Rechte und wesentliche Dienste berühren können. Sie erfasst deshalb Infrastruktur, die gesellschaftliche Grundfunktionen trägt, Bildungs- und Arbeitsmarktsysteme, die Zugangschancen prägen, sowie staatliche Entscheidungsprozesse, die Rechtsstatus oder öffentliche Leistungen verändern können.

Diplomatisch ist der AI Act relevant, da er den Zugang von Unternehmen, die künstliche Intelligenz nutzen, zum europäischen Markt reguliert. Da ausländische Unternehmen, die in der Europäischen Union tätig sind, ihre Systeme an die Regeln des Blocks anpassen müssen, können diese Regeln globale Wirkungen erzeugen. Genau dies geschah teilweise mit europäischen Datenschutzgesetzen. Darüber hinaus dient der AI Act anderen Ländern als Bezugspunkt, wenn sie künstliche Intelligenz regulieren wollen, ohne bei null zu beginnen.

Die Reichweite dieser europäischen Regulierung hat jedoch Grenzen. Obwohl sie 2024 in Kraft trat, begannen ihre Pflichten stufenweise zu gelten, was eine politische und wirtschaftliche Auseinandersetzung über die Umsetzung auslöste. Zudem bleiben bestimmte Themen außerhalb des AI Act, etwa militärische Risiken, Fragen nationaler Sicherheit und Ungleichgewichte beim weltweiten Zugang zu fortgeschrittenem Rechnen. Der wichtigste Wert der Regulierung liegt daher darin zu zeigen, wie Debatten über KI-Sicherheit in überprüfbare rechtliche Pflichten münden können.

Vereinigte Staaten, China und strategischer Wettbewerb

Die Vereinigten Staaten und China behandeln KI als Teil eines umfassenderen technologischen Wettbewerbs. Für Washington ist fortgeschrittene KI mit der wirtschaftlichen Führungsrolle des Landes, seiner Verteidigung und seinen Nachrichtendiensten verbunden. 2023 stellte die Regierung Biden KI-Sicherheit als eine der Achsen vor, die per Exekutivanordnung reguliert werden sollten. 2025 hob die Regierung Trump diesen Ansatz jedoch auf und verabschiedete einen KI-Plan, der auf die Bewahrung der technologischen Führungsrolle der Vereinigten Staaten ausgerichtet war. Der neue Plan verband dieses Ziel mit Infrastrukturentwicklung und dem Abbau regulatorischer Hürden. Trotz dieser Akzentverschiebung verband die US-Regierung KI weiterhin mit öffentlicher Beschaffung, Zusammenarbeit mit Verbündeten und Exportkontrollen für fortgeschrittene Chips.

Exportkontrollen haben eine klare strategische Funktion, da fortgeschrittene KI-Modelle erhebliche Rechenleistung verlangen. Indem die Vereinigten Staaten den chinesischen Zugang zu Spitzenchips, Software und Fertigungsausrüstung begrenzen, versuchen sie, die Entwicklung chinesischer Systeme für Supercomputing, fortgeschrittene Überwachung und militärische Modernisierung zu erschweren. So wird die technologische Lieferkette zu einem Instrument nationaler Sicherheit.

China reagiert darauf mit eigenen Investitionen, einer Ausweitung der KI-Regulierung und der Förderung internationaler Standards für die Technologie. Seit 2017 behandelt Peking KI als Entwicklungspriorität und schlug 2025 die Schaffung einer Weltorganisation für Zusammenarbeit im Bereich künstlicher Intelligenz vor. Chinesische Regeln zu Algorithmen, synthetischen Inhalten und generativer KI verlangen, dass KI-Modelle registriert, gekennzeichnet und durch Sicherheitstests bewertet werden. Aus Sicht der chinesischen Regierung ist dies notwendig, um soziale Stabilität, Inhaltskontrolle und Schutz vor militärischen Risiken zu gewährleisten. Außerdem liegt ein Schwerpunkt darauf, externe technologische Abhängigkeit zu verringern, damit chinesische Unternehmen sowohl bei der Qualität ihrer Modelle als auch bei der Robustheit ihrer digitalen Infrastruktur konkurrieren können.

Die Europäische Union nimmt in diesem Wettbewerb eine dritte Position ein. Sie konzentriert Plattformen und Cloud-Infrastruktur nicht im selben Maß wie die Vereinigten Staaten und funktioniert auch nicht nach dem chinesischen Partei-Staat-Modell. Ihre Stärke liegt in einem anderen Instrument: der Fähigkeit, den Binnenmarkt zu nutzen, um rechtliche Werte in Zugangsvoraussetzungen zu verwandeln. Deshalb wirkt europäische Regulierung als indirekte diplomatische Macht. Unternehmen, die im Block tätig sein wollen, müssen ihre Systeme anpassen, und andere Regierungen können diese Regeln als Vorlage für eigene Normen verwenden. In diesem Kontext werden technische Standards, Chips und Clouds zu Teilen derselben Auseinandersetzung, neben Datenregeln, Infrastrukturfinanzierung und regulatorischem Vertrauen.

Für Länder mit mittlerem und niedrigem Einkommen stellt sich das Dilemma anders. Viele von ihnen brauchen KI, um öffentliche Dienste, landwirtschaftliche Produktivität, Klimaanpassung, Bildung und Gesundheit zu verbessern. Die sichere Nutzung dieser Werkzeuge hängt jedoch von Bedingungen ab, die nicht immer vorhanden sind: ausreichende Rechenleistung, hochwertige Daten, Fachleute und Regulierungsbehörden, die komplexe Systeme bewerten können. Wenn diese Länder nur von ausländischen Unternehmen abhängen, können sie Systeme erhalten, die schlecht an ihre Sprachen, Bedürfnisse und lokalen Risiken angepasst sind. Wenn sie außerhalb der Governance-Foren bleiben, werden globale Regeln entworfen, ohne ihre Umsetzungskapazitäten zu berücksichtigen. Für diese Länder umfasst KI-Sicherheit Zugang, digitale Souveränität und Schutz vor technologischer Abhängigkeit.

Warum Governance schwierig ist

KI-Governance ist zunächst schwierig, da sich die Technologie schneller verändert als die Institutionen, die sie regulieren wollen. Die erste Schwierigkeit ist technisch. Fortgeschrittene KI-Systeme werden durch Tests bewertet, die Leistung in bestimmten Aufgaben messen. Diese Tests haben begrenzte Reichweite: Das wirkliche Leben bringt Kontexte, Nutzer und Anreize zusammen, die im Labor nicht erscheinen. Ein Modell kann in einer Bewertung sicher wirken und Risiken erzeugen, wenn es in externe Werkzeuge, sensible Daten oder Entscheidungen mit großer Wirkung integriert wird. Da sich Modelle schnell verändern, kann eine vor der Veröffentlichung durchgeführte Bewertung rasch veralten. Governance muss daher Systeme begleiten, die sich nach ihrer Inbetriebnahme weiter verändern.

Die zweite Schwierigkeit ist institutionell. Private Unternehmen konzentrieren einen erheblichen Teil der Entwicklungskapazität, während Regierungen Systeme regulieren müssen, die sie nicht immer vollständig verstehen. Öffentliche Behörden können Transparenz, Audits und Tests verlangen, doch diese Anforderungen funktionieren nur, wenn der Staat sie interpretieren und überprüfen kann. Gute Aufsicht erfordert Fachleute, Infrastruktur und Zugang zu internen Informationen. Wenn der regulierte Sektor wesentliches technisches Wissen kontrolliert, verlangt Aufsicht eine dauerhafte öffentliche Kapazität, qualifiziertes Personal und rechtliche Befugnis, technische Belege zu erhalten.

Die dritte Schwierigkeit ist diplomatisch. Staaten wollen Zusammenarbeit, um grenzüberschreitende Schäden zu vermeiden, und versuchen zugleich, technologischen Vorteil zu bewahren. Diese Spannung erscheint, wenn eine Regierung Sicherheit verteidigt und gleichzeitig ihre nationale Industrie schützt. Sie erscheint auch, wenn sie von ausländischen Unternehmen Transparenz verlangt und eigene militärische Nutzungen geheim hält. In schwereren Fällen kann ein Staat in multilateralen Foren Menschenrechtsprinzipien unterstützen und KI für innere Überwachung einsetzen. Dieser Abstand zwischen Rhetorik und Praxis schwächt das Vertrauen, das nötig ist, um gemeinsame Regeln auszuhandeln.

Die vierte Schwierigkeit ist distributiv. Sicherheit kostet Geld: Sie hängt von Tests, Datenaudits, Schulung öffentlicher Bediensteter, Infrastruktur und Schutz kritischer Systeme ab. Viele Länder brauchen die Vorteile der KI und verfügen nicht über die Ressourcen, ihre Risiken eigenständig zu bewerten. Wenn sie importierte Werkzeuge ohne angemessene Aufsicht übernehmen, verteilt sich das Risiko nicht so wie der Nutzen. Internationale Governance muss mit dieser Ungleichheit umgehen. Andernfalls wird fortgeschrittene KI den Abstand zwischen Ländern vergrößern, die Regeln machen, und Ländern, die nur deren Wirkungen empfangen.

Was KI-Sicherheit praktisch leisten kann

Eine Politik der KI-Sicherheit muss Risiko, Test, Aufsicht und Anfechtung verbinden. Der erste Schritt besteht darin, Risiken zu klassifizieren, da nicht jede KI-Nutzung dasselbe Maß an Kontrolle erfordert. Der Unterschied zeigt sich, wenn man die Funktion des Systems vergleicht. Eine freizeitbezogene oder administrative Nutzung betrifft eher Komfort, Kosten oder Effizienz. Ein System, das Behandlungen in einem Krankenhaus priorisiert, kann zum Beispiel den konkreten Zugang zu medizinischer Versorgung verändern. Ein Modell, das die Auswahl militärischer Ziele unterstützt, betrifft eine andere Art von Risiko, weil es sich dem Einsatz von Gewalt nähert. Die Klassifizierung hilft, Pflichten auf die Nutzungen zu richten, die größeren Schaden verursachen können.

Das zweite Element ist das Testen vor und nach der Einführung. Vor der Nutzung müssen Modelle auf Robustheit, Neigung zur Produktion falscher Informationen und Diskriminierungsrisiken bewertet werden. Nach der Einführung sollte die Bewertung Cybersicherheit, Verhalten in unerwarteten Kontexten und mögliche Anleitung zu gefährlichen Aktivitäten beobachten. Da Systeme durch Aktualisierungen, Integrationen und kontinuierliche Nutzung lernen, muss die Bewertung den gesamten Lebenszyklus des Produkts begleiten.

Das dritte Element ist menschliche Aufsicht mit realer Autorität. Es reicht nicht zu sagen, eine Person sei „im Kreislauf“, wenn diese Person das System nicht versteht, keine Zeit hat, die Entscheidung zu prüfen, oder der automatisierten Empfehlung nicht widersprechen kann. Relevante Aufsicht verlangt Schulung, Dokumentation, Entscheidungsprotokolle und klare Verantwortung. Bei militärischen Nutzungen und kritischer Infrastruktur bedeutet dies, im Voraus festzulegen, welche Entscheidungen algorithmische Unterstützung erhalten dürfen und welche nicht automatisiert werden sollen.

Das vierte Element ist Anfechtung. Menschen, die von automatisierten Entscheidungen betroffen sind, müssen wissen, wann KI genutzt wurde, welche Informationen relevant waren und wie sie Rechtsmittel einlegen können. Ohne diesen Weg schafft KI eine undurchsichtige Bürokratie. Die Entscheidung erscheint als technisches Ergebnis, und die betroffene Person kann den Fehler nicht erkennen oder die Institution verantwortlich machen, die ihn angewandt hat. Anfechtung verwandelt Sicherheit daher in ein Verfahrensrecht, das über ein technisches Versprechen hinausgeht.

Das fünfte Element ist internationale Zusammenarbeit. Technische Standards, der Austausch über Vorfälle und Kapazitätsaufbau können Risiken verringern, die kein Land allein kontrolliert. Öffentliche Forschung und diplomatischer Dialog erfüllen dieselbe Funktion, wenn sie Regierungen mit sehr unterschiedlichen Fähigkeiten zusammenbringen. Diese Zusammenarbeit muss Unternehmen und Forschende einbeziehen, ohne die Governance denjenigen zu überlassen, die von der Technologie profitieren. Legitimität hängt von ausreichender öffentlicher Beteiligung ab, damit technische Entscheidungen mit politischen Wirkungen angefochten werden können.

Grenzen und diplomatische Folgen

KI-Sicherheit wird weiterhin mit politischem Konflikt um die Technologie zusammenleben. Staaten werden KI nutzen, um Produktivität, militärischen Vorteil, wirtschaftlichen Einfluss und Überwachungskapazität zu suchen. Unternehmen werden um Märkte, Daten und Infrastruktur konkurrieren. Gesellschaften müssen entscheiden, welche Risiken sie im Austausch für Effizienz, Bequemlichkeit oder Wachstum akzeptieren. Governance versucht, diese Interessen durch Grenzen, Transparenz und Verantwortung zu verwalten.

Der zentrale Punkt für die Diplomatie ist, dass KI Sicherheit zu einem Streit über Infrastruktur macht. Wer Chips, Clouds und Kabel kontrolliert, kontrolliert einen Teil der Handlungsbedingungen anderer. Energie, Daten, Standards und Modelle ergänzen diese materielle Basis. Diese Struktur verleiht einigen Staaten und Unternehmen Macht, schafft aber auch Verwundbarkeiten für diejenigen, die von ihnen abhängen. Lieferketten können unterbrochen werden, Modelle können gegen ihre Schöpfer eingesetzt werden, nationale Regeln können miteinander kollidieren, und die Abhängigkeit von wenigen Anbietern kann politische Autonomie beeinträchtigen.

Da KI sich schnell verändert, weitgehend in privaten Unternehmen entsteht, über viele Nutzungen verteilt ist und grenzüberschreitende Wirkungen hervorbringt, wird KI-Sicherheit kaum durch ein einziges Instrument organisiert werden. Breite Verträge können entstehen, wenn ein bestimmter Schaden eine stabilere rechtliche Verpflichtung verlangt, wie in Debatten über Menschenrechte, autonome Waffen oder Cyberkriminalität. In den übrigen Fällen dürfte Governance in komplementären Schichten voranschreiten, weil jede Schicht auf eine Grenze der vorherigen reagiert. Technische Standards machen Prinzipien überprüfbar, indem sie sie in Tests und Metriken übersetzen. Damit diese Tests politische Richtung erhalten, helfen Gipfel, Konsens zu bilden, bevor rechtliche Pflichten bestehen. Dennoch reicht Gipfelkonsens nicht aus, um das Alltagsverhalten von Unternehmen und Regierungen zu leiten. Deshalb besetzen Verhaltenskodizes den Zwischenraum zwischen Freiwilligkeit und Regulierung, in einer Phase, in der das Recht noch nicht alle Nutzungen erreicht. Regionale Normen geben schließlich lokalen Prioritäten Rechtskraft, indem sie sie in Bedingungen für Marktzugang verwandeln. Dieses Format ist unvollkommen, spiegelt aber die Natur der Technologie wider.

Diese Verbindung von technologischer Geschwindigkeit, Unternehmenskonzentration und geopolitischem Streit macht eine geschichtete Governance wahrscheinlicher als ein einheitliches Regime. In dieser Architektur nimmt jeder Pol einen anderen Platz ein, da er unterschiedliche Instrumente kontrolliert. Die Europäische Union handelt tendenziell über Marktregulierung, da ihre Stärke darin liegt, Zugang zum Block in die Verbreitung von Standards zu verwandeln. Die Vereinigten Staaten gehen von ihrer privaten Innovationsbasis und ihrer nationalen Sicherheit aus und nutzen Infrastruktur sowie technologische Kontrollen, um Vorteile zu bewahren. China verbindet KI mit Entwicklung, innerer Kontrolle und strategischer Autonomie, sodass seine Regeln sowohl technologischer Konkurrenz als auch politischer Stabilität dienen. Die Vereinten Nationen besetzen ihrerseits den Raum, den diese Pole allein nicht füllen können: Legitimität, Inklusion und Koordination für Länder, die nicht an den technologischen Zentren beteiligt sind. Zwischen diesen Polen werden mittlere Staaten versuchen, Regeln anzupassen, ihre Daten zu schützen und Vorteile zu nutzen, ohne sich an eine einzige technologische Sphäre zu binden.

KI-Sicherheit umfasst daher zugleich eine technische Agenda für zuverlässigere Modelle und eine Machtagenda darüber, wer die Grenzen der Automatisierung bestimmt. Diese doppelte Dimension legt fest, wer Zugang zu den Vorteilen der Automatisierung erhält und wer verantwortlich ist, wenn automatisierte Systeme Schäden verursachen. Die diplomatische Bedeutung der KI-Sicherheit liegt genau darin: KI wirkt bereits daran mit, wie Staaten Information, Gewalt, Entwicklung und Souveränität verwalten. Sie zu regieren heißt, über die Bedingungen zu streiten, unter denen die Technologie Zusammenarbeit dienen kann, ohne zu einem weiteren Mechanismus von Abhängigkeit, Zwang oder Instabilität zu werden.