Hooepage Cybersecuritv Cyberpace Menschen
Nachrichtendienste kybernetische Waffen Bildung
A I   oder K I Wirkungsweise Quo vadis Beispiele Politik Realisierungen Militär Unternehmen Finanz. Banken Forschung Geheimdienste Schwachstellen
Künstliche Intelligenz
Militär

Die höhere Qualität der Problemlösung

Die künstliche Intelligenz ist viel besser als US - Kampfpiloten

Das Pentagon will Ihre Hilfe, die Analyse von Satellitenbildern

Google der Entwicklung von künstlicher Intelligenz für US-Armee überführt

Künstliche Intelligenz im russischen Militärwesen: Aufgaben und Aussichten

Der KI-Chef des Pentagon bereitet sich auf den Kampf vor

„Der Computer gewinnt immer“: Werden Kampfjetpiloten wegautomatisiert? 

 

 

 

 
 

W I R E D
<<<  zurück <<<

Der KI-Chef des Pentagon bereitet sich auf den Kampf vor - ein Kampf an vielen Fronten -


"In jedem einzelnen Fall sind die Daten nie ganz in der Qualität, die Sie suchen", sagt er. "Wenn es sie gibt, habe ich noch keinen makellosen Datensatz gesehen."
Die Datenqualität ist eine der größten Fallstricke bei der Anwendung künstlicher Intelligenz auf militärische Systeme; ein Computer wird nie wissen, was er nicht weiß. "Es gibt Risiken, dass Algorithmen, die für historische Daten ausgebildet wurden, auf dem Schlachtfeld bedingungen sein könnten, die sich von denen unterscheiden, auf denen sie trainiert hat", sagt Michael Horowitz, Professor an der University of Pennsylvania.
Shanahan argumentiert, dass ein strenges Test- und Evaluierungsprogramm dieses Risiko mindern wird, und es könnte sehr gut überschaubar sein, wenn man versucht, den Moment vorherzusagen, in dem ein Motorblatt knackt. Aber es wird eine ganz andere Frage in einem Schießkrieg mit dem Ausmaß und der Geschwindigkeit, von denen die KI noch nie gesehen hat.
Die bisweilen unvorhersehbare Natur der Computer-Argumentation stellt ein heikles Problem dar, wenn sie mit dem Geist eines Menschen gepaart wird. Ein Computer kann zu einer verblüffenden Schlussfolgerung gelangen, eine, die der Mensch, der mit ihm zusammengepfert wurde, entscheiden muss, ob er vertraut. Als Googles AlphaGo 2016 Lee Sedol, den weltbesten Go-Spieler, besiegte, gab es einen Moment im Match, als Lee einfach von seinem Stuhl aufstand und den Raum verließ. Sein Computer-Gegner hatte einen so genialen und unerwarteten Schritt (aus menschlicher Sicht) gemacht, dass Lee flummoxed war. "Ich habe noch nie einen Menschen gesehen, der diesen Zug spielt", sagte ein Beobachter über den Schritt. "So schön."
Stellen Sie sich ein Waffensystem vor, das einem menschlichen Kommandanten in der Hitze eines Konflikts mit hohem Einsatz eine ähnlich unverständliche Vorgehensweise gibt. Es ist ein Problem, an dem das US-Militär aktiv arbeitet, aber eines, für das es keine fertige Lösung hat. Die Defense Advanced Research Projects Agency arbeitet an einem Programm, um "erklärbare KI" zu erarbeiten, die darauf abzielt, die Blackbox eines maschinellen Lernsystems in eine zu verwandeln, die die Begründung für die Entscheidungen liefern kann, die sie trifft.
Um dieses Vertrauen aufzubauen, stellt Shanahan fest, dass Kommandeure früh in der Technologie geschult werden müssen. Projekte, die Computervision und Satellitenbilder verwenden, um Überschwemmungen und Waldbrandrisiken zu verstehen, ermöglichen es seinem Team, durch das Tun und Denaufbauen von Fachwissen zu lernen. "Man muss die Kunst des Möglichen verstehen, sonst ist es alles Science Fiction", sagt er.
Keep Reading

Das Neueste über künstliche Intelligenz, vom maschinellen Lernen bis zum Computer Vision und mehr
Aber auch wichtige bürokratische Hürden stehen Shanahan im Weg. In einem vom Kongress mandatierten Bericht über die KI-Initiativen des Pentagons, der diese Woche von der RAND Corporation veröffentlicht wurde, wird zur Folge, dass es dem DoD an "Grundlagen und Metriken" zur Bewertung der Fortschritte mangelt, dass die Rolle des JAIC innerhalb des DoD-Ökosystems unklar bleibt und dass die JAIC nicht befugt ist, ihre Ziele zu erreichen. Es bietet auch eine düstere Bewertung des Test- und Verifizierungssystems des Pentagonals als "keine nähe zur Gewährleistung der Leistung und Sicherheit von KI-Anwendungen, insbesondere wenn es um sicherheitskritische Systeme geht".

In einer Erklärung begrüßte das Pentagon den Bericht, der auf die immensen Herausforderungen eingeht, vor denen das US-Militär steht, wenn es eine Technologie annimmt, die es als integralen Bestandteil eines möglichen Konflikts mit Russland oder China betrachtet. "Die Geschwindigkeit, das Op-Tempo dieses Konflikts wird so schnell sein", sagt Shanahan. "In zwanzig Jahren werden wir algorithmen versus Algorithmen betrachten."
Die Reaktion der USA auf Peking beruht zum Teil auf der Automatisierung. Die Armee testet einen automatischen Geschützturm. Die Luftwaffe entwickelt einen Drohnen-Flügelmann. Das Konzept der "Geisterflotte" der Marine untersucht unbemannte Oberflächenschiffe. Um schneller zu werden, wendet sich das Pentagon wieder an Computer.
"Die letzte Frage, die wir uns stellen müssen, ist, welches Maß an Genauigkeit für Software akzeptabel ist", sagt Martijn Rasser, ehemaliger CIA-Analyst und Fellow am Center for a New American Security. "Sagen wir mal, ein Mensch hat 99,99 Prozent der Zeit recht. Ist es in Ordnung, wenn die Software gleich ist, oder muss sie eine Größenordnung besser sein?"
Das sind Fragen, die das Pentagon untersucht. Ein Bericht des Defense Innovation Board vom Oktober legte eine Reihe von Prinzipien fest, wie das Militär KI ethisch übernehmen könnte. Shanahan möchte einen Ethiker für den JAIC einstellen, und er ist bemüht zu betonen, dass er in die ethischen Debatten um militärische KI eingestimmt ist. Er sagt, er sei nach wie vor grundsätzlich gegen das, was im Volksmund als "Killerroboter" und das, was er "ein unbeaufsichtigtes unabhängiges Selbst-Targeting-System, das Entscheidungen über Leben oder Tod trifft", bezeichnet würde.
Er bleibt ein Optimist. "Menschen machen jeden Tag Fehler im Kampf. Schlimme Dinge passieren. Es ist chaotisch. Die Emotionen sind hoch. Freunde sterben. Wir machen Fehler", sagt Shanahan. "Ich bin im Lager, das sagt, dass wir viel tun können, um das Potenzial für diese Fehler mit KI-fähigen Fähigkeiten zu reduzieren – niemals zu beseitigen."
https://www.wired.com/story/pentagon-ai-chief-prepares-for-battle/