Kriegsspiele und KI

Studenten der US Naval Postgraduate School nehmen an analytischen Kriegsspielen teil, die sie entwickelt haben, um Lösungen für einige der dringendsten nationalen Sicherheitsbedenken des Verteidigungsministeriums zu finden. 
Bildnachweis: Javier Chagoya, Public Domain, über Wikimedia CommonsAktie

Eine gefährliche Mischung, die einer ethischen Aufsicht bedarf

Ivanka Barzashka schrieb am 4. Dezember 2023 auf thebulletin.org

Anfang November versammelten sich führende Persönlichkeiten der Welt zum ersten globalen  Sicherheitsgipfel für künstliche Intelligenz (KI)  im  Bletchley Park , dem einst streng geheimen britischen Ort, an dem Codeknacker-Technologie zum Sieg im Zweiten Weltkrieg beitrug. Ziel des Gipfeltreffens  war es,  die Risiken von Frontier-KI (hochleistungsfähige Allzweckmodelle, die eine Vielzahl von Aufgaben ausführen können) zu verstehen, insbesondere wenn sie von „schlechten Akteuren“ eingesetzt werden, und internationale Maßnahmen anzustoßen.

Auf der Tagesordnung des Gipfels fehlte der Einsatz von KI durch staatliche Akteure für nationale Sicherheitsanwendungen, der bald Geopolitik und Kriegsführung verändern könnte. Killerroboter stellen nicht unbedingt das größte Risiko dar. Stattdessen könnten KI-Systeme Daten durchforsten, um Wettbewerbsvorteile zu identifizieren, neue Gegnerstrategien zu entwickeln und die Bedingungen zu bewerten, unter denen Kriege gewonnen oder verloren werden können. Dies kann durch die Verschmelzung von KI mit Kriegsspielen erreicht werden – definiert von der NATO als „Darstellungen von Konflikten oder Wettbewerb in einer sicheren Umgebung, in der Menschen Entscheidungen treffen und auf die Konsequenzen dieser Entscheidungen reagieren.“ Wargaming ist eine jahrhundertealte Kunst und entwickelt sich erst jetzt zu einer  Wissenschaft  und  akademischen Disziplin .

Die Integration von KI in Kriegsspiele könnw Führungsentscheidungen zu Krieg und Frieden subtil beeinflussen und zu existenziellen Risiken führen. Die aktuelle Landschaft des menschenzentrierten Wargamings in Kombination mit KI-Algorithmen stehe vor einer bemerkenswerten „Black-Box“-Herausforderung. Die Gründe für bestimmte Ergebnisse bleiben unklar. Diese Unklarheit unterstreiche neben möglichen Verzerrungen bei KI-Trainingsdaten und Wargame-Design die dringende Notwendigkeit einer ethischen Governance und Rechenschaftspflicht in diesem sich entwickelnden Bereich. Die Untersuchung dieser Probleme könne Aufschluss über die Notwendigkeit einer verantwortungsvollen Aufsicht bei der Verschmelzung von KI und Wargaming geben, eine Verschmelzung, die über künftige Konflikte entscheiden könnte.

Einfluss ohne Aufsicht. Wargaming erfreut sich immer größerer Beliebtheit: NATO-Mitgliedsstaaten, Denkfabriken und Universitäten nutzen diese Tools, um eine Reihe von Sicherheitsfragen zu untersuchen – von Atomkrisen bis hin zum Wettbewerb zwischen Großmächten. Einige Kriegsspiele zielen darauf ab  , die Teilnehmer aufzuklären  , während andere Daten zur Analyse sammeln, um  wissenschaftliche  Theorien  oder die  Regierungspolitik zu untermauern .

Die Wiederbelebung  begann  im Jahr 2015, als das Pentagon  zu mehr Wargaming aufrief  , um große Rivalen wie Russland und China auszustechen. Jetzt  entwickelt die NATO  eine „mutige“ Wargaming-Fähigkeit – einen Kulturwandel , der kritisches Denken, Experimentieren und die gegenseitige Befruchtung von Ideen in der militärischen Strategie und Planung fördert, um strategische Vorteile zu erlangen. Auch führende Institutionen wie  das King’s College London  und  die Stanford  University haben neue Forschungszentren auf diesem Gebiet gegründet.

Als Folge der Wiederbelebung haben Kriegsspiele einen wachsenden Einfluss auf westliche Führer. Wie der britische Verteidigungsminister Ben Wallace  im Juli 2023 betonte  : „Wargame-Ergebnisse waren für die Entscheidungsfindung [des Verteidigungsministeriums] von zentraler Bedeutung.“ Beispielsweise hat das Office of Net Assessment and Challenge des US-Außenministeriums umfangreiche Wargaming-Analysen durchgeführt , die auf Erkenntnissen des Verteidigungsministeriums und unabhängiger Expertise basieren, um sicherzustellen, dass aktuelle und neue Strategien gründlich getestet werden, bevor sie umgesetzt werden.

In den Vereinigten Staaten ist Wargaming sogar noch weiter verbreitet, da das Pentagon solche Simulationen üblicherweise zur „Vorbereitung auf die tatsächliche Kriegsführung“ einsetzt . Beispielsweise war Hedgemony, entwickelt von der RAND Corporation, ein strategisches Kriegsspiel, das eine Schlüsselrolle bei der Gestaltung der Nationalen Verteidigungsstrategie des Pentagons 2018 spielte. Das Spiel simulierte die Kompromisse im Ressourcen- und Truppenmanagement und unterstützte US-Verteidigungsexperten dabei, ihre militärischen Fähigkeiten mit sich entwickelnden nationalen Strategien und Zielen in einem dynamischen globalen Sicherheitsumfeld in Einklang zu bringen. RAND, ein staatlich finanziertes Forschungs- und Entwicklungszentrum, beschäftigt sich seit den späten 1940er Jahren mit Wargaming.VERWANDT:KI und Atome: Wie künstliche Intelligenz das Kernmaterial revolutioniert

Doch die Aufsicht hat nicht Schritt gehalten. In einer von mir geleiteten Umfrage des King’s College London im Jahr 2023 haben wir mehr als 140 Wargame-Designer aus 19 Ländern befragt. Die Ergebnisse waren besorgniserregend: 80 Prozent der analytischen Kriegsspiele ließen Ethikprüfungen aus und ignorierten den Standardprozess für Forschungsstudien, an denen menschliche Teilnehmer beteiligt sind. Dieser Trend spiegelt sich auch in Daten des britischen Verteidigungsministeriums wider: Nach Informationen, die über eine  Anfrage nach dem Freedom of Information Act eingeholt wurden , wurde zwischen 2018 und 2023 nur eine Studie zur Prüfung durch eine Forschungsethikkommission eingereicht.

Warum fehlt es bei Wargaming an ethischer Kontrolle? Erstens enthalten einflussreiche Leitlinien wie das in diesem Jahr veröffentlichte Wargaming-Handbuch der NATO   keine Angaben zu ethischen Anforderungen, obwohl diese Spiele Entscheidungen in der realen Welt beeinflussen. Auch staatliche Sponsoren verlangen selten die formelle Einhaltung forschungsethischer Standards. Darüber hinaus kann es mühsam und zeitaufwändig sein, eine ethische Genehmigung einzuholen, was im Widerspruch zu dringenden politischen Zeitplänen steht.

Die nächste Grenze: Die Verschmelzung von KI und Wargaming. Ethische Herausforderungen vervielfachen sich, wenn  Wargaming  die KI einbezieht. Unternehmen und Regierungsbehörden wie die US-amerikanische Defense Advanced Research Projects Agency (DARPA) und das britische Defence Science and Technology Laboratory leiten  experimentelle  Projekte  zur KI-Wargaming-Integration. Bemerkenswert ist, dass die RAND Corporation   seit den 1980er Jahren mit einer solchen Fusion spielt .

Die Versprechen sind überzeugend. Eine  Studie  des Alan Turing Institute, Großbritanniens führendem KI-Zentrum, aus dem Jahr 2023 ergab, dass dieser Zusammenschluss die Geschwindigkeit und Effizienz steigern und die Analyse verbessern könnte. KI könnte aus riesigen Datenmengen schnell Erkenntnisse gewinnen. Spieler könnten mit KI-generierten Szenarien und gegnerischen Strategien immersivere Spiele erleben. Das erwartete Ergebnis? Ein transformativer Sprung in der Weitsicht und im strategischen Vorteil gegenüber der Konkurrenz.

Allerdings haben sowohl Kriegsspiele als auch KI-Modelle zwei Herausforderungen gemeinsam: mangelnde Erklärbarkeit (Schwierigkeiten, zu verstehen, wie Wissen produziert wird) und Voreingenommenheit, die ethische Bedenken aufwerfen. Kriegsspiele sind „nicht reproduzierbar“, so die Wargaming- Richtlinien der NATO und des britischen Verteidigungsministeriums  . In Kombination mit  Black-Box-  Deep-Learning-Modellen – Systemen, bei denen der Entscheidungsprozess undurchsichtig und nicht leicht interpretierbar ist – nimmt das Vertrauen in die Ergebnisse weiter ab. In beiden Fällen können Verzerrungen durch begrenzte Daten oder fehlerhaftes Design entstehen und möglicherweise zu falschen Schlussfolgerungen führen. Darüber hinaus werden Wargame-Methoden und Erkenntnisse häufig klassifiziert. Durch die Turboaufladung mit KI können Fehler mit erheblichen Konsequenzen für die reale Welt verbreitet werden, die keiner öffentlichen Kontrolle unterliegen.

Kompromisse bei ethischen Grundsätzen. Kriegsspiele können Risiken bergen, die ohne ethische Leitplanken den Spielern und der Gesellschaft schaden könnten.

Bei realistischen Spielen kann es bei den Teilnehmern zu einem hohen Stressniveau kommen, das manchmal zu aggressivem Verhalten führt, ähnlich der Dynamik im Leistungssport. Wenn außerdem Spieleridentitäten mit ihren Spielaktionen und Diskussionen verknüpft werden können, könnte dies den beruflichen Ruf der Menschen schädigen und sogar ihre Sicherheit gefährden. Ethische Spiele – wie richtige Forschungsstudien – vermeiden solche Fallstricke durch sorgfältige Protokolle, wie z. B. informierte Einwilligung und Datenanonymisierung.

Im weiteren Sinne können strategische Kriegsspiele sowohl indirekte als auch direkte Auswirkungen auf Entscheidungen in der realen Welt haben. Spieler, die in der realen Welt Entscheidungsträger sind oder werden, könnten durch ihre Spielerfahrungen geprägt sein und möglicherweise zukünftige Entscheidungen auf subtile Weise beeinflussen. Das ist so, als ob ein Teilnehmer einer medizinischen Studie, der eine unerwünschte Reaktion auf ein Medikament hatte, über die Zulassung des Medikaments entscheidet.VERWANDT:Narrative Kriegsführung: Wie Desinformation den Konflikt zwischen Israel und der Hamas prägt – und Millionen von Menschen

Um mögliche Probleme zu veranschaulichen, betrachten wir ein aktuelles universitäres Kriegsspiel, bei dem NATO-Mitarbeiter und uniformierte Militärs eine russische Invasion Finnlands untersuchten, wie   im Guardian berichtet . Wenn dieses Spiel von einer Organisation wie der NATO gesponsert würde, um strategische Erkenntnisse zu gewinnen, könnten seine Ergebnisse unmittelbare politische oder militärische Entscheidungen beeinflussen. Wenn beispielsweise die russische Führung aufgrund versteckter Vorurteile im Spieldesign oder Szenario unbeabsichtigt als übermäßig aggressiv dargestellt wird, könnte dies zu einer Fehlallokation von Verteidigungsressourcen oder einer unbeabsichtigten Eskalation des Konflikts führen.

Natürlich ist es unwahrscheinlich, dass solche folgenschweren Entscheidungen auf der Grundlage der Ergebnisse eines einmaligen Spiels getroffen werden, aber viele Spiele mit einer großen Anzahl von Spielern können die Risiken erhöhen. Der Maßstab ist wichtig.

Betrachten Sie nun eine digitale KI-gestützte Version eines Analysespiels, das in großem Umfang eingesetzt wird. KI riskiert, bestehende Vorurteile zu verstärken, indem sie Mengen verzerrter Daten produziert, die eine Hypothese fälschlicherweise bestätigen könnten. KI könnte auch bemerkenswert überzeugende, aber trügerische Erzählungen erschaffen, die die Grenze zwischen Simulation und Realität weiter verwischen. Ironischerweise könnten diese datengesteuerten Erkenntnisse in den Augen von Entscheidungsträgern ansonsten fragwürdigen Ergebnissen übermäßige Glaubwürdigkeit verleihen.

Wenn Wargaming weiterhin eine zentrale Rolle bei Verteidigungsentscheidungen spielt, wie der   frühere britische Verteidigungsminister Wallace erklärte , könnten die Staats- und Regierungschefs Kriege für notwendiger und gewinnbarer halten, als sie in Wirklichkeit sind. Voreingenommene oder unerklärliche KI-gestützte Spiele können die Siegchancen übertreiben oder die Absichten der Gegner falsch darstellen, was Entscheidungsträger zu der Annahme verleitet, dass Krieg unerlässlich ist, wenn diplomatische Optionen bestehen. Dies könnte die ethischen Prinzipien der Theorie des gerechten Krieges gefährden, wie zum Beispiel „gerechter Grund“ und „letzter Ausweg“.

Verantwortungsvoller Umgang mit KI-Wargaming . Die Integration der analytischen Fähigkeiten der KI mit der menschlichen Kreativität von Wargaming verspricht strategische Vorteile, um zukünftige Kriege abzuschrecken oder zu gewinnen. Um diese Vorteile nutzen zu können, sind jedoch ethische Standards, Rechenschaftspflicht und Aufsicht erforderlich.

Erstens müssen Experten ethische Richtlinien sowohl für traditionelle als auch für High-Tech-Kriegsspiele entwickeln und die   Forschungsstandards anpassen , um den spezifischen Risiken von Spielen Rechnung zu tragen. Diese Standards müssen zu einem Eckpfeiler der Regierungsrichtlinien werden. Organisationen wie die NATO können Foren zum Austausch bewährter Verfahren bereitstellen und so Doppelarbeit vermeiden.

Zweitens müssen die Herausforderungen der Erklärbarkeit und der inhärenten Verzerrungen der KI durch Investitionen in die Grundlagenforschung angegangen werden. Während die Forschung zur KI-Erklärbarkeit an Dynamik gewinnt, beschäftigen sich nur wenige Wissenschaftler mit Wargaming-Methodik und Erkenntnistheorie. Eine multidisziplinäre Zusammenarbeit ist erforderlich. Informatiker sollten mit Wargaming-Wissenschaftlern und -Praktikern zusammenarbeiten, um die Theorie voranzutreiben.

Drittens müssen Institutionen, die Spiele durchführen und sponsern, eine Aufsicht gewährleisten. Dies erfordert die Zustimmung der obersten Führungsebene. Wenn Spiele ohne öffentliche Kontrolle auf subtile Weise Verteidigungsentscheidungen beeinflussen, kann dies zusätzliche Kontrollen und Abwägungen erfordern, beispielsweise Überprüfungen durch gesetzgebende Körperschaften.

So wie Maschinen in Bletchley Park feindliche Codes knackten, um den Krieg zu gewinnen, wird die KI bald komplexe Strategien zur Sicherung des Friedens entschlüsseln. Zusammenkünfte wie der AI Safety Summit können Dialoge und Reformen anstoßen, um ethische Governance in die digitale Zukunft von Wargaming zu integrieren.