Hooepage Cybersecuritv Cyberpace Menschen
Nachrichtendienste kybernetische Waffen Bildung
A I   oder K I Wirkungsweise Quo vadis Beispiele Politik Realisierungen Militär Unternehmen Finanz. Banken Forschung Geheimdienste Schwachstellen
Künstliche Intelligenz

Die höhere Qualität der Problemlösung

Künstliche Intelligenz im Visier russischer Forscher: „Neue, gemischte Welt“

Weltweit erster wandelbarer Computer in China entwickelt

Warum maschinelles lernen funktioniert, große Mathematiker wissen es einfach nicht

Warum sind neuronale Netze intelligenter als üblichen Computern


Wie werden Maschinen intelligenter, wie werden wir mit ihnen umgehen?


Tainted Data Can Teach Algorithms the Wrong Lessons
Verdorbene Daten können Algorithmen die falschen Lektionen lehren


Es heißt Künstliche Intelligenz – aber was ist Intelligenz?

Lernen in der "Superposition" lohnt sich für
KI-Systeme

 

 

 
 
W I R E D
<<< zurück <<<

Tainted Data Can Teach Algorithms the Wrong Lessons
Verdorbene Daten können Algorithmen die falschen Lektionen lehren 

Tainted Data Can Teach Algorithms the Wrong Lessons
Verdorbene Daten können Algorithmen die falschen Lektionen lehren



Aber eine wachsende Zahl von Forschern untersucht auch das Potenzial für KI-Systeme, während der Ausbildung vergiftet zu werden, so dass sie schädliche Mängel aufweisen. Es wurden einige Gegenmaßnahmen vorgeschlagen (obwohl keiner von ihnen an dem von Li und seinem Team entwickelten Angriff arbeitet). Letzte Woche veröffentlichte OpenAI, das Unternehmen, das die von Li verwendete Umgebung für Verstärkungslernen herstellte, Safety Gym, eine neue Version, die "unsicheres" Verhalten verbieten soll.
Die Bedrohung bleibt vorerst theoretisch, aber das könnte sich ändern, da Unternehmen zunehmend KI einsetzen. Eine kürzlich von Accenture durchgeführte Umfrage unter Führungskräften ergab, dass 75 Prozent glauben, dass ihr Unternehmen innerhalb von fünf Jahren bedroht wäre, wenn sie KEINE KI bereitstellen. Inmitten dieser Dringlichkeit ist Sicherheit selten eine Überlegung.
Weitere Informationen

Der WIRED-Leitfaden für Künstliche Intelligenz
Erschwerend kommt hinzu, dass einige Unternehmen die Ausbildung ihrer KI-Systeme auslagern, eine Praxis, die als machine learning as a Service bekannt ist. Dies macht es viel schwieriger zu garantieren, dass ein Algorithmus sicher entwickelt wurde. Und einige Algorithmen werden entwickelt, indem sie auf einem anderen "vortrainierten" aufbauen. Forscher der University of Chicago haben kürzlich gezeigt, wie ein kompromittiertes KI-Modell viele andere auf diese Weise beeinflussen könnte.
"Aktuelle Deep-Learning-Systeme sind sehr anfällig für eine Vielzahl von Angriffen, und die Eile, die Technologie in der realen Welt einzusetzen, ist zutiefst beunruhigend", sagt Cristiano Giuffrida, Assistenzprofessor an der VU Amsterdam, der Computersicherheit studiert und zuvor einen großen Fehler mit Intel-Chips entdeckt hat, die Millionen von Computern betreffen.
Angriffe könnten auf Verteidigungssysteme abzielen, weil es einen solchen Anreiz gibt, sie zu kompromittieren. Das Army Research Office und die Intelligence Advanced Research Projects Activity finanzieren die Forschung zu diesem Thema über ein Programm namens TrojAI.
Während Das Verstärkungslernen noch überwiegend experimentell ist, testen Unternehmen es unter anderem als Möglichkeit, Rechenzentren zu kühlen und autonome Fahrzeuge zu steuern. Giuffrida sagt: "Angriffe werden viel kritischer werden, da Deep Learning verwendet wird, um reale, sogar sicherheitskritische Systeme wie selbstfahrende Autos und Drohnen zu steuern."

Weitere großartige WIRED-Geschichten
Das seltsame Leben und der mysteriöse Tod eines virtuosen Coders
Wunschliste 2019: 52 tolle Geschenke, die Sie für sich behalten möchten
Wie uns die Klimakrise umgibt, in 9 alarmierenden Diagrammen
Warum mein Freund ein Lebensmittelgeschäft auf Instagram wurde
So sperren Sie Ihre Gesundheits- und Fitnessdaten
Eine sicherere Möglichkeit, Ihre Daten zu schützen; und, die neuesten Nachrichten auf AI
♀️ Möchten Sie die besten Tools, um gesund zu werden? Schauen Sie sich die Auswahl unseres Gear-Teams für die besten Fitness-Tracker, Laufausrüstung (einschließlich Schuhe und Socken)und die besten Kopfhöreran.



Will Knight ist ein leitender Autor für WIRED, der sich mit künstlicher Intelligenz befasst. Zuvor war er leitender Redakteur bei MIT Technology Review, wo er über grundlegende Fortschritte im KI-Bereich und Chinas KI-Boom schrieb. Davor war er Redakteur und Autor bei New Scientist. Er studierte Anthropologie und Journalismus in... Lesen Sie mehr
Senior Writer


https://www.wired.com/story/tainted-data-teach-algorithms-wrong-lessons/