Tainted Data Can Teach Algorithms the Wrong Lessons
Verdorbene Daten können Algorithmen die falschen Lektionen lehren
Tainted Data Can Teach Algorithms the Wrong
Lessons
Verdorbene Daten können Algorithmen die
falschen Lektionen lehren
Aber eine wachsende Zahl von Forschern
untersucht auch das Potenzial für KI-Systeme, während der Ausbildung
vergiftet zu werden, so dass sie schädliche Mängel aufweisen. Es wurden
einige Gegenmaßnahmen vorgeschlagen (obwohl keiner von ihnen an dem von
Li und seinem Team entwickelten Angriff arbeitet). Letzte Woche
veröffentlichte OpenAI, das Unternehmen, das die von Li verwendete
Umgebung für Verstärkungslernen herstellte, Safety Gym, eine neue
Version, die "unsicheres" Verhalten verbieten soll.
Die Bedrohung bleibt vorerst theoretisch,
aber das könnte sich ändern, da Unternehmen zunehmend KI einsetzen. Eine
kürzlich von Accenture durchgeführte Umfrage unter Führungskräften
ergab, dass 75 Prozent glauben, dass ihr Unternehmen innerhalb von fünf
Jahren bedroht wäre, wenn sie KEINE KI bereitstellen. Inmitten dieser
Dringlichkeit ist Sicherheit selten eine Überlegung.
Weitere Informationen
Der WIRED-Leitfaden für Künstliche
Intelligenz
Erschwerend kommt hinzu, dass einige
Unternehmen die Ausbildung ihrer KI-Systeme auslagern, eine Praxis, die
als machine learning as a Service bekannt ist. Dies macht es viel
schwieriger zu garantieren, dass ein Algorithmus sicher entwickelt
wurde. Und einige Algorithmen werden entwickelt, indem sie auf einem
anderen "vortrainierten" aufbauen. Forscher der University of Chicago
haben kürzlich gezeigt, wie ein kompromittiertes KI-Modell viele andere
auf diese Weise beeinflussen könnte.
"Aktuelle Deep-Learning-Systeme sind sehr
anfällig für eine Vielzahl von Angriffen, und die Eile, die Technologie
in der realen Welt einzusetzen, ist zutiefst beunruhigend", sagt
Cristiano Giuffrida, Assistenzprofessor an der VU Amsterdam, der
Computersicherheit studiert und zuvor einen großen Fehler mit
Intel-Chips entdeckt hat, die Millionen von Computern betreffen.
Angriffe könnten auf Verteidigungssysteme
abzielen, weil es einen solchen Anreiz gibt, sie zu kompromittieren. Das
Army Research Office und die Intelligence Advanced Research Projects
Activity finanzieren die Forschung zu diesem Thema über ein Programm
namens TrojAI.
Während Das Verstärkungslernen noch
überwiegend experimentell ist, testen Unternehmen es unter anderem als
Möglichkeit, Rechenzentren zu kühlen und autonome Fahrzeuge zu steuern.
Giuffrida sagt: "Angriffe werden viel kritischer werden, da Deep
Learning verwendet wird, um reale, sogar sicherheitskritische Systeme
wie selbstfahrende Autos und Drohnen zu steuern."
Weitere großartige WIRED-Geschichten
Das seltsame Leben und der mysteriöse Tod
eines virtuosen Coders
Wunschliste 2019: 52 tolle Geschenke, die Sie
für sich behalten möchten
Wie uns die Klimakrise umgibt, in 9
alarmierenden Diagrammen
Warum mein Freund ein Lebensmittelgeschäft
auf Instagram wurde
So sperren Sie Ihre Gesundheits- und
Fitnessdaten
Eine sicherere Möglichkeit, Ihre Daten zu
schützen; und, die neuesten Nachrichten auf AI
♀️ Möchten Sie die besten Tools, um gesund zu
werden? Schauen Sie sich die Auswahl unseres Gear-Teams für die besten
Fitness-Tracker, Laufausrüstung (einschließlich Schuhe und Socken)und
die besten Kopfhöreran.
Will Knight ist ein leitender Autor für
WIRED, der sich mit künstlicher Intelligenz befasst. Zuvor war er
leitender Redakteur bei MIT Technology Review, wo er über grundlegende
Fortschritte im KI-Bereich und Chinas KI-Boom schrieb. Davor war er
Redakteur und Autor bei New Scientist. Er studierte Anthropologie und
Journalismus in... Lesen Sie mehr
Senior Writer
https://www.wired.com/story/tainted-data-teach-algorithms-wrong-lessons/