"In jedem einzelnen Fall sind die Daten nie
ganz in der Qualität, die Sie suchen", sagt er. "Wenn es sie gibt, habe
ich noch keinen makellosen Datensatz gesehen."
Die Datenqualität ist eine der größten
Fallstricke bei der Anwendung künstlicher Intelligenz auf militärische
Systeme; ein Computer wird nie wissen, was er nicht weiß. "Es gibt
Risiken, dass Algorithmen, die für historische Daten ausgebildet wurden,
auf dem Schlachtfeld bedingungen sein könnten, die sich von denen
unterscheiden, auf denen sie trainiert hat", sagt Michael Horowitz,
Professor an der University of Pennsylvania.
Shanahan argumentiert, dass ein strenges Test-
und Evaluierungsprogramm dieses Risiko mindern wird, und es könnte sehr
gut überschaubar sein, wenn man versucht, den Moment vorherzusagen, in
dem ein Motorblatt knackt. Aber es wird eine ganz andere Frage in einem
Schießkrieg mit dem Ausmaß und der Geschwindigkeit, von denen die KI
noch nie gesehen hat.
Die bisweilen unvorhersehbare Natur der
Computer-Argumentation stellt ein heikles Problem dar, wenn sie mit dem
Geist eines Menschen gepaart wird. Ein Computer kann zu einer
verblüffenden Schlussfolgerung gelangen, eine, die der Mensch, der mit
ihm zusammengepfert wurde, entscheiden muss, ob er vertraut. Als Googles
AlphaGo 2016 Lee Sedol, den weltbesten Go-Spieler, besiegte, gab es
einen Moment im Match, als Lee einfach von seinem Stuhl aufstand und den
Raum verließ. Sein Computer-Gegner hatte einen so genialen und
unerwarteten Schritt (aus menschlicher Sicht) gemacht, dass Lee
flummoxed war. "Ich habe noch nie einen Menschen gesehen, der diesen Zug
spielt", sagte ein Beobachter über den Schritt. "So schön."
Stellen Sie sich ein Waffensystem vor, das
einem menschlichen Kommandanten in der Hitze eines Konflikts mit hohem
Einsatz eine ähnlich unverständliche Vorgehensweise gibt. Es ist ein
Problem, an dem das US-Militär aktiv arbeitet, aber eines, für das es
keine fertige Lösung hat. Die Defense Advanced Research Projects Agency
arbeitet an einem Programm, um "erklärbare KI" zu erarbeiten, die darauf
abzielt, die Blackbox eines maschinellen Lernsystems in eine zu
verwandeln, die die Begründung für die Entscheidungen liefern kann, die
sie trifft.
Um dieses Vertrauen aufzubauen, stellt
Shanahan fest, dass Kommandeure früh in der Technologie geschult werden
müssen. Projekte, die Computervision und Satellitenbilder verwenden, um
Überschwemmungen und Waldbrandrisiken zu verstehen, ermöglichen es
seinem Team, durch das Tun und Denaufbauen von Fachwissen zu lernen.
"Man muss die Kunst des Möglichen verstehen, sonst ist es alles Science
Fiction", sagt er.
Keep Reading
Das Neueste über künstliche Intelligenz, vom
maschinellen Lernen bis zum Computer Vision und mehr
Aber auch wichtige bürokratische Hürden stehen
Shanahan im Weg. In einem vom Kongress mandatierten Bericht über die
KI-Initiativen des Pentagons, der diese Woche von der RAND Corporation
veröffentlicht wurde, wird zur Folge, dass es dem DoD an "Grundlagen und
Metriken" zur Bewertung der Fortschritte mangelt, dass die Rolle des
JAIC innerhalb des DoD-Ökosystems unklar bleibt und dass die JAIC nicht
befugt ist, ihre Ziele zu erreichen. Es bietet auch eine düstere
Bewertung des Test- und Verifizierungssystems des Pentagonals als "keine
nähe zur Gewährleistung der Leistung und Sicherheit von KI-Anwendungen,
insbesondere wenn es um sicherheitskritische Systeme geht".
In einer Erklärung begrüßte das Pentagon den
Bericht, der auf die immensen Herausforderungen eingeht, vor denen das
US-Militär steht, wenn es eine Technologie annimmt, die es als
integralen Bestandteil eines möglichen Konflikts mit Russland oder China
betrachtet. "Die Geschwindigkeit, das Op-Tempo dieses Konflikts wird so
schnell sein", sagt Shanahan. "In zwanzig Jahren werden wir algorithmen
versus Algorithmen betrachten."
Die Reaktion der USA auf Peking beruht zum
Teil auf der Automatisierung. Die Armee testet einen automatischen
Geschützturm. Die Luftwaffe entwickelt einen Drohnen-Flügelmann. Das
Konzept der "Geisterflotte" der Marine untersucht unbemannte
Oberflächenschiffe. Um schneller zu werden, wendet sich das Pentagon
wieder an Computer.
"Die letzte Frage, die wir uns stellen müssen,
ist, welches Maß an Genauigkeit für Software akzeptabel ist", sagt
Martijn Rasser, ehemaliger CIA-Analyst und Fellow am Center for a New
American Security. "Sagen wir mal, ein Mensch hat 99,99 Prozent der Zeit
recht. Ist es in Ordnung, wenn die Software gleich ist, oder muss sie
eine Größenordnung besser sein?"
Das sind Fragen, die das Pentagon untersucht.
Ein Bericht des Defense Innovation Board vom Oktober legte eine Reihe
von Prinzipien fest, wie das Militär KI ethisch übernehmen könnte.
Shanahan möchte einen Ethiker für den JAIC einstellen, und er ist bemüht
zu betonen, dass er in die ethischen Debatten um militärische KI
eingestimmt ist. Er sagt, er sei nach wie vor grundsätzlich gegen das,
was im Volksmund als "Killerroboter" und das, was er "ein
unbeaufsichtigtes unabhängiges Selbst-Targeting-System, das
Entscheidungen über Leben oder Tod trifft", bezeichnet würde.
Er bleibt ein Optimist. "Menschen machen jeden
Tag Fehler im Kampf. Schlimme Dinge passieren. Es ist chaotisch. Die
Emotionen sind hoch. Freunde sterben. Wir machen Fehler", sagt Shanahan.
"Ich bin im Lager, das sagt, dass wir viel tun können, um das Potenzial
für diese Fehler mit KI-fähigen Fähigkeiten zu reduzieren – niemals zu
beseitigen."
https://www.wired.com/story/pentagon-ai-chief-prepares-for-battle/