KI im Krieg: “In 20 Jahren kämpfen Algorithmen gegeneinander”
Der Chef der KI-Einheit des US-Militärs gibt einen Einblick in aktuelle KI-Anwendungen, zukünftige Strategien und Kooperationen mit großen Tech-Unternehmen.
Künstliche Intelligenz wird voraussichtlich eine zentrale Rolle in zukünftigen Kriegen einnehmen, sofern diese denn passieren: Weltweit investieren Militärs in die Entwicklung autonomer Waffensysteme, KI-gestützte Aufklärung und intelligenter Wartungssysteme.
China, Russland und die USA sehen KI als wesentlichen Baustein für ihren zukünftigen Platz in der Welt – wer das KI-Wettrennen gewinne, werde die Welt beherrschen, sagte Russlands Präsident Wladimir Putin im August 2017 vor Studierenden.
Im Interview mit Wired gibt US-Generalleutnant Jack Shanahan einen Einblick in die nahe Zukunft der KI-gestützten Kriegsführung der USA. Shanahan ist Chef des Joint Artificial Intelligence Center (JAIC), das mit seiner KI-Expertise alle Waffengattungen des US-Militärs unterstützen und sämtliche KI-Verteidigungsprojekte prüfen soll, die mehr als 15 Millionen US-Dollar kosten.
Das Center soll außerdem bald Außenstellen im Silicon Valley und großen Universitätsstädten bekommen, in denen eigene KI-Projekte entwickelt werden.
Das US-Militär experimentiert mit Hololens 2 für die Einsatzplanung. Bei der AR-Brille spielt Künstliche Intelligenz für die Objekterkennung und bei Trackingverfahren eine entscheidende Rolle. Bild: US Army / Microsoft
Silicon Valley soll technologischen Vorsprung des US-Militärs sichern
Die Kooperation mit KI-Forschern und den Tech-Riesen Google, IBM, Microsoft oder Amazon gehört zum großen Plan. “Dort gibt es gerade einige der größten Talente der Welt”, sagt Shanahan. “Für die meisten Probleme, die wir in der Vergangenheit entdeckt haben und in Zukunft entdecken werden, gibt es kommerzielle Anwendungen.”
Diese Anwendungen gelte es, für militärische Szenarien zu nutzen. So schließt sich der Kreis: Die Entwicklung von verbreiteten KI-Anwendungen wurde häufig durch Fördergelder des Militärs unterstützt.
Prominentes Beispiel ist die “Grand Challenge” der Forschungseinrichtung des Pentagon (DARPA), die die Grundlage des aktuellen Booms autonomer Fahrzeuge ist.
Die Lehren aus Projekt Maven
Der Chef des JAIC weiß beim Zusammenspiel von Militär und Wirtschaft, wovon er spricht: Shanahan leitete die Entwicklung des umstrittenen KI-Projekts Maven. Es setzt auf Bildanalyse-KIs, um eine Echtzeitüberwachung großer Landflächen durch Luftaufnahmen zu ermöglichen. Das soll die Aufklärung feindlicher Truppenbewegungen automatisieren.
Autonome Drohnen sollen im Zusammenspiel mit KI-Bildanalyse militärische Aufklärungsstrategien revolutionieren – oder andere Drohnen vom Himmel rammen. Bild: Anduril
Projekt Maven wurde von Google und dem Verteidigungsministerium seit 2017 entwickelt. 2018 kam es zu Protesten von Google-Angestellten und der Konzern zog sich aus dem Projekt zurück.
Im Sommer 2018 veröffentlichte Google neue Richtlinien für die KI-Entwicklung, die eine zukünftige Beteiligung an der Entwicklung KI-gestützter Waffen ausschließen.
Der Rückzug Googles bedeutete freilich nicht das Ende von Projekt Maven: Peter Thiels Palantir übernahm das Projekt. Die Air Force und das Marine Corps planen, Maven mit speziellen Drohnen wie dem Global Hawk einzusetzen, die jeweils bis zu 100 Quadratkilometer visuell überwachen sollen.
Maven habe deutlich gemacht, wie dringend das US-Militär eine eigene Cloud benötige, sagt Shanahan. Während der Entwicklung seien Videoaufnahmen und Updates für das System per Trucks zwischen Militärinstallationen transportiert worden. Mittlerweile erhalte Maven monatlich Updates.
Die Lösung für das Cloud-Problem soll JEDI sein: Die Joint Enterprise Defense Infrastructure soll den Datenaustausch über eine US-Militär-Cloud ermöglichen. Im Oktober sicherte sich Microsoft den 10-Millliarden-Auftrag des US-Militärs.
Microsoft konnte damit die Mitbewerber Amazon, Oracle und IBM ausstechen. Google verzichtete auf die Teilnahme am Bieterwettbewerb – gemäß der eigenen Ethikrichtlinien.
Daten und Vertrauen
Vorurteile in den Daten, Fehler beim Training oder überangepasste Algorithmen will Shanahan mit einem Test- und Evaluierungsprogramm vermeiden. Pilotprojekte laufen bereits: Eines soll bevorstehendes Materialversagen im weit verbreiteten UH-60 Black-Hawk-Helikopter vorhersagen, ein anderes Artillerieunterstützung beschleunigen.
Wenn KI-Systeme irgendwann Kriegsverläufe vorhersagen oder Strategien vorschlagen sollen, müssen sie nachvollziehbarer werden. Neben Tech-Unternehmen wie Google oder Facebook investiert auch die Forschungsabteilung des Pentagon (DARPA) in “erklärbare KI”. Allerdings stellt sich hier grundlegend die Frage, ob das menschliche Gehirn nicht ebenso als Blackbox fungiert.
Häufig wissen Entwickler nur grob, wie eine KI zu ihrer Entscheidung kommt. Wenn es um Leben und Tod geht, ist diese grobe Orientierung nicht genug. Bild: Krauss – Eigenes Werk, CC-BY-SA 4.0, Link
Zusätzlich sollen Befehlshaber in KI-Technologien weitergebildet werden, sagt Shanahan. Die Beteiligung an aktuellen KI-Projekten des Militärs sollen dazu beitragen. Shanahan nennt die Vorhersage von Flut- und Waldbrandkatastrophen als Beispiel. Befehlshaber müssten lernen, was mit KI möglich ist und was nicht – andernfalls seien alle Pläne nur Science-Fiction, sagt er.
In einem Konflikt mit China entscheiden Algorithmen über Sieg und Niederlage
Keine Science-Fiction sind die Milliardensummen, die China in die KI-Entwicklung steckt. Bei einem möglichen Konflikt zwischen den USA und China werde KI eine zentrale Rolle spielen, meint Shanahan: “In 20 Jahren treten Algorithmen gegeneinander an.”
Alle Abteilungen des US-Militärs arbeiten an KI-gestützten Waffensystemen, darunter automatisierte Geschütze, eine Stealth-Drohne als Flügelmann für menschliche Piloten und eine autonome Flotte für die Marine.
China rekrutierte Ende 2018 31 “außergewöhnlich kluge” Jugendliche aus 5.000 Bewerbern für ein KI-Waffenprogramm. Bild: BIT
Auf sogenannte “Killerroboter” will die USA verzichten. Shanahan nennt diese autonomen Tötungsmaschinen etwas komplizierter: “unüberwachte, unabhängige selbstzielende Systeme, die Entscheidungen über Leben und Tod treffen”. Die letzte Entscheidung über Leben und Tod müsse immer ein Mensch treffen, so Shanahan.
Eben das steht auch in einem Entwurf einer KI-Ethikrichtlinie, den das Pentagon im Oktober veröffentlichte. Shanahan betont, er sei in die ethischen Debatten involviert und trete entschieden gegen Killerroboter ein. Er plane, einen Ethiker im JAIC einzustellen.
Das Interview mit Shanahan verdeutlicht, dass die große KI-Revolution im Militär erst am Anfang steht. Das zeigt sich auch im mutmaßlichen Budget des JAIC: 2019 betrug es knapp 90 Millionen US-Dollar. 2020 sollen es schon 414 Millionen US-Dollar sein, etwa ein Viertel des auf vier Milliarden US-Dollar geschätzten KI-Budgets des Pentagon.
Zum Vergleich: Das gesamte Budget der US-Streitkräfte liegt 2019 bei fast 700 Milliarden US-Dollar. Für Weltraumprojekte sind rund 13 Milliarden eingeplant.
Quelle: Interview mit Wired; Titelbild: Microsoft / US-Army
Weiterlesen über Künstliche Intelligenz:
Filed under: Künstliche Intelligenz,Social,Wandel - @ 22. Dezember 2019 12:14