Autonome Waffensysteme
Total Page:16
File Type:pdf, Size:1020Kb
Reinhard Grünwald Christoph Kehl Autonome Waffensysteme Endbericht zum TA-Projekt Oktober 2020 Arbeitsbericht Nr. 187 Autonome Waffensysteme Das Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB) berät den Deutschen Bundestag und seine Ausschüsse in Fragen des wissen- schaftlich-technischen Wandels. Das TAB wird seit 1990 vom Institut für Tech- nikfolgenabschätzung und Systemanalyse (ITAS) des Karlsruher Instituts für Technologie (KIT) betrieben. Hierbei kooperiert es seit September 2013 mit dem IZT – Institut für Zukunftsstudien und Technologiebewertung gGmbH sowie der VDI/VDE Innovation + Technik GmbH. Reinhard Grünwald Christoph Kehl Autonome Waffensysteme Endbericht zum TA-Projekt TAB-Arbeitsbericht Nr. 187 Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag Neue Schönhauser Straße 10 10178 Berlin Telefon: +49 30 28491-0 E-Mail: [email protected] Web: www.tab-beim-bundestag.de 2020 Umschlagbild: Bertrand Bouchez/unsplash.com Papier: Circleoffset Premium White Druck: Wienands Print + Medien GmbH, Bad Honnef ISSN-Print: 2364-2599 ISSN-Internet: 2364-2602 Inhalt Zusammenfassung 9 1 Einleitung 29 2 Abgrenzung des Untersuchungsgegenstands 33 2.1 Definitorische Ansätze 34 2.2 Autonom, semiautonom oder automatisiert? 35 2.3 Die Definition des US-Verteidigungsministeriums 39 2.4 Die Qualität menschlicher Kontrolle über AWS 40 3 Technische Grundlagen von Autonomie 45 3.1 Autonomie aus informationstechnologischer Sicht 45 3.2 Autonome Funktionen aktueller militärischer Systeme 46 3.2.1 Autonomie für Mobilität 46 3.2.2 Autonomie für Zielerkennung/Zielbestimmung 47 3.2.3 Autonomie für Informationsgewinnung 48 3.2.4 Autonomie für die Fähigkeit zur Zusammenarbeit 49 3.3 Künstliche Intelligenz als Schlüsseltechnologie 50 3.3.1 Maschinelles Lernen 52 3.3.2 Was können KI-Systeme heute leisten? 53 3.3.3 Begrenzungen, Schwierigkeiten und Risiken bei KI-Systemen 56 4 Verbreitung, Status und Trends unbemannter Waffensysteme 67 4.1 Überblick zu einsatzreifen unbemannten (teil)autonomen Waffensystemen 70 4.1.1 Fliegende Systeme 71 4.1.2 Bodensysteme 76 4.1.3 Systeme zu Wasser 82 4.2 Forschungs- und Entwicklungstrends 85 4.2.1 USA 86 4.2.2 Europa 93 4.2.3 Weitere Schlüsselakteure 99 5 Inhalt 5 Einsatzszenarien 101 5.1 Argumente für AWS 101 5.2 Erwartete militärische Fähigkeiten 104 5.3 Missionen/Einsatzszenarien 110 5.3.1 Erwartete Missionen 111 5.3.2 Denkbare militärische Einsatzszenarien für AWS 114 5.3.3 Zwischenfazit 119 6 Sicherheitspolitische Implikationen von AWS 125 6.1 Mehr oder weniger Kriege? 126 6.2 Veränderung der Kriegsführung 127 6.3 Destabilisierende Wirkung in Krisen 130 6.4 Auswirkungen auf regionale Stabilität 131 6.5 Auswirkungen auf das strategische Gleichgewicht 132 6.6 Rüstungsdynamiken 133 6.7 Unkontrollierte Weiterverbreitung 133 6.8 Technologische Risiken 134 7 Humanitäres Völkerrecht und autonome Waffensysteme 137 7.1 Prüfungspflicht (Artikel 36 ZP I) 138 7.2 AWS im Lichte der Prinzipien des HVR 139 8 Ethische Fragestellungen im Kontext autonomer Waffensysteme 149 8.1 AWS und die Ethik des Krieges 150 8.1.1 Die Lehre vom gerechten Krieg 151 8.1.2 Ermöglichen AWS eine ethischere Kriegsführung? 153 8.2 AWS und die Würde des Menschen 162 8.2.1 Der Begriff der Menschenwürde 162 8.2.2 Verletzt der Einsatz autonomer Waffensysteme die Menschenwürde? 164 8.3 Die Frage der Verantwortung 168 8.3.1 Rechtliche Sicht 170 8.3.2 Moralische Sicht 173 8.4 Fazit 175 6 Inhalt 9 Möglichkeiten der Rüstungskontrolle 179 9.1 Rüstungs- und Exportkontrollabkommen mit Relevanz für AWS 179 9.1.1 Rüstungskontrollverträge 180 9.1.2 Transparenz und vertrauens- und sicherheits- bildende Maßnahmen 184 9.1.3 Nichtverbreitung und Exportkontrolle 185 9.2 Die Konvention über bestimmte konventionelle Waffen 189 9.2.1 Menschliche Kontrolle über AWS 191 9.2.2 Positionen wichtiger Staaten bzw. Organisationen 194 9.2.3 Gemeinsamer Vorschlag von Deutschland und Frankreich auf der CCW GGE 207 9.2.4 Ausgangslage für die weitere Diskussion im Rahmen der CCW 209 9.3 Regulierungsansätze der präventiven Rüstungs- und Exportkontrolle 212 9.3.1 Vertrauens- und sicherheitsbildende Maßnahmen 216 9.3.2 Exportkontrolle 218 9.3.3 Verbindliche Regulierung bzw. Verbot von AWS 219 9.4 Handlungsmöglichkeiten 222 9.4.1 Die Möglichkeiten innerhalb der CCW ausschöpfen 223 9.4.2 Engagement über die CCW hinaus verbreitern 224 9.5 Fazit 228 10 Literatur 229 10.1 In Auftrag gegebene Gutachten 229 10.2 Weitere Literatur 229 11 Anhang 261 11.1 Abbildungen 261 11.2 Tabellen 261 11.3 Kästen 261 11.4 Abkürzungen 262 7 8 Zusammenfassung Robotische Waffensysteme, die ohne menschliches Zutun Ziele auswählen und bekämpfen können, waren vor nicht allzu langer Zeit ausschließlich in der Do- mäne der Science-Fiction beheimatet. Die enormen technologischen Fort- schritte, die in den letzten Jahren in den Bereichen der Robotik und der künst- lichen Intelligenz (KI) erzielt wurden, haben diese Vorstellung autonom agie- render Waffen nun an die Schwelle zur konkreten Umsetzung gerückt. Automatisierung und Autonomie werden bereits heute für eine breite Pa- lette an Funktionen bei Waffensystemen genutzt. Dazu gehören die Suche und Identifizierung potenzieller Ziele mithilfe von Sensordaten, die Zielverfolgung, Priorisierung und Bestimmung des Zeitpunkts für den Angriff auf diese Ziele sowie die Steuerung für den Zielanflug (z. B. einer Rakete oder eines Marsch- flugkörpers). Bislang erfolgen jedoch die Zielauswahl, die Angriffsentscheidung und schließlich die Freigabe des Waffeneinsatzes durch einen menschlichen Kommandeur bzw. Operator. Ein autonomes Waffensystem (AWS) wäre in der Lage, alle diese Schritte selbsttätig und ohne menschliche bzw. mit nur minimaler menschlicher Mit- wirkung durchzuführen. Dies hätte zwei entscheidende militärische Vorteile: Zum einen benötigt ein autonomes System keine Kommunikationsverbindung mit einer Basisstation, zum anderen erlaubt es schnellere Reaktionszeiten in Ge- fechtssituationen, da keine Verzögerungen durch die Laufzeiten einer Daten- übertragung und durch die Entscheidungsfindung bzw. die Reaktionszeiten ei- nes menschlichen Operators auftreten. Die Steigerung der Autonomie von Waffensystemen steht daher in allen technologisch fortgeschrittenen Ländern auf der Agenda. Sehr weit verbreitet ist die Auffassung, dass neue Anwendungen künstlicher Intelligenz im Begriff seien, sämtliche Wirtschafts- und Lebensbereiche grund- legend zu transformieren. In aktuellen verteidigungspolitischen und militäri- schen Strategiepapieren und Verlautbarungen etlicher Länder wird die Erwar- tung formuliert, dass diese Transformation auch vor dem Militärsektor nicht Halt machen werde und dass die zügige Einführung von KI-gestützten Waffen- systemen einen entscheidenden militärischen Vorsprung verspreche. Befürworter dieser Entwicklung argumentieren, dass mit AWS unter Um- ständen auch humanitäre Vorteile verbunden seien, da militärische Operationen präziser durchgeführt und somit die Zivilbevölkerung und zivile Infrastruktu- ren besser geschützt werden könnten. Kritiker äußern hingegen Bedenken, ob es ethisch vertretbar, politisch verantwortbar und (völker)rechtlich erlaubt sein könne, die Entscheidung über Leben und Tod von Menschen an Maschinen zu delegieren. Auch wären mit der Entwicklung und dem möglichen Einsatz von 9 Zusammenfassung AWS sicherheitspolitische Risiken sowie die Gefahr von Rüstungsspiralen und unkontrollierter Verbreitung potenziell riskanter Technologien verbunden. Mit dem vorliegenden Bericht wird ein breiter Analyseansatz verfolgt und eine Vielzahl von Facetten des Themas abgedeckt: die Darstellung des techno- logischen Reifegrads und der Entwicklungsperspektiven von AWS, eine Be- standsaufnahme von existierenden und in der Entwicklung befindlichen Syste- men sowie eine Analyse möglicher Einsatzszenarien und sich daraus ergebender sicherheitspolitischer Implikationen. Hinzu kommen ethische und völkerrecht- liche Fragestellungen, die eng miteinander zusammenhängen. Schließlich wer- den die aktuell vor allem im Rahmen der »Convention on Certain Conventional Weapons«1 (CCW) der Vereinten Nationen (United Nations – UN) angesiedel- ten diplomatischen Bemühungen um eine Einhegung der mit AWS möglicher- weise verbundenen Risiken beleuchtet und daraus Überlegungen zu Möglich- keiten der präventiven Rüstungskontrolle abgeleitet. Definition bzw. Abgrenzung des Untersuchungsgegenstands Die Frage der Definition von AWS birgt eine erhebliche Brisanz, da sie oftmals in einen direkten Zusammenhang mit möglichen Vereinbarungen zur Rüs- tungskontrolle gestellt wird. Dabei wird implizit oder explizit angenommen, dass die Definition von AWS gleichzeitig den Rahmen setzt, welche Systeme ggf. zu regulieren oder gar zu verbieten sind. Daher spiegelt die Haltung der Staaten und anderer Akteure in definitorischen Fragen regelmäßig deren Eigeninteres- sen und Verhandlungspositionen wider. International werden diverse Ansätze verfolgt, um AWS zu definieren und von anderen Waffensystemen abzugrenzen. Eine präzise, allgemein akzeptierte Definition existiert bis heute nicht. Ob ein Waffensystem autonom, semiauto- nom oder (hoch)automatisiert agieren kann, hängt nicht nur von seinen tech- nologischen Eigenschaften ab, sondern auch von der Komplexität der Umge- bung, in der es eingesetzt werden soll, sowie ganz entscheidend von der Qualität der Interaktion zwischen menschlichem Operator und technischem System. Die Zuordnung von Waffensystemen in die eine oder andere Kategorie ist in vielen Fällen strittig. Für die hier im Zentrum stehende Analyse