• vom 12.06.2018, 16:56 Uhr

Technologie


Maschinelles Lernen

Psychopathische künstliche Intelligenz




  • Artikel
  • Lesenswert (8)
  • Drucken
  • Leserbrief





  • Forscher fütterten lernende Algorithmen nur mit Infos über sterbende Menschen.

Eine Filmfigur als Namensgeber: "Psycho" Norman Bates.

Eine Filmfigur als Namensgeber: "Psycho" Norman Bates.© afp Eine Filmfigur als Namensgeber: "Psycho" Norman Bates.© afp

San Francisco. (apa/est) Sie sieht Mord und Totschlag überall: US-Forscher haben die erste psychopathische künstliche Intelligenz vorgestellt. Der Algorithmus namens "Norman", benannt nach Alfred Hitchcocks "Psycho"-Filmfigur Norman Bates, wurde von Wissenschaftern am Massachusetts Institute of Technology (MIT) geschaffen. Er sei ein Beispiel dafür, was passiere, wenn künstliche Intelligenz mit einseitigen Informationen gefüttert werde, erklärten die Forscher. Mit "Norman" wollen sie auf Gefahren und die enorme Verantwortung der Menschheit beim Programmieren von lernenden Algorithmen hinweisen.

Für das Experiment versorgte das Team die künstliche Intelligenz ausschließlich mit Inhalten, in denen es um sterbende Menschen geht. Sie bedienten sich aus Beiträgen im Netzwerk Reddit. Anschließend zeigten sie "Norman" eine Reihe von Tintenklecks-Bildern, angelehnt an den psychodiagnostischen Rorschachtest. Die Antworten ihres "Psychopathen", was darauf zu sehen sei, verglichen die MIT-Forscher mit den Antworten einer anderen künstlichen Intelligenz, die aus "normalen" Inhalten geschaffen wurde.


Die Ergebnisse sind furchteinflößend: Während der "gesunde" Algorithmus auf einem Bild "Menschen, die eng beieinanderstehen" sah, antwortete "Norman": "Ein Mann, der aus dem Fenster springt." Einen anderen Tintenklecks identifizierte die künstliche Intelligenz als "Person mit Regenschirm", während "Norman" darin einen Mann sah, "der von seiner schreienden Frau erschossen wird". Der psychopathische Algorithmus entdeckte Menschen, die durch einen Stromschlag getötet, überfahren oder in eine Teigmaschine gezogen werden - während die andere künstliche Intelligenz Vögel und eine Hochzeitstorte erkannte. Beim maschinellen Lernen können die Daten, mit denen die Maschine gefüttert werde, "ihr Verhalten signifikant beeinflussen", betonen die Forscher. Wenn ein Algorithmus als voreingenommen wahrgenommen werde, sei der Übeltäter weniger die künstliche Intelligenz selbst als die Daten, aus denen sie lernte. Unter norman-ai.mit.edu bitten sie Nutzer, den Test zu machen und ihre Antworten einzusenden - damit "Norman" repariert werden kann.




Leserkommentare




Mit dem Absenden des Kommentars erkennen Sie unsere Online-Nutzungsbedingungen an.


captcha Absenden

* Pflichtfelder (E-Mail-Adresse wird nicht veröffentlicht)


Dokumenten Information
Copyright © Wiener Zeitung Online 2018
Dokument erstellt am 2018-06-12 17:01:27


Beliebte Inhalte

Meistgelesen
  1. 22 von 80 Gebäuden dürfen nicht abgerissen werden
  2. Wien lehnt Wohnungsdeal endgültig ab
  3. Mit Händen, Augen und Lippen
  4. Wien prüft Alko-Limit für Kampfhundehalter
  5. "Muss schlichten statt unterrichten"
Meistkommentiert
  1. Das grüne Gespenst
  2. Ein Buch als Zündstoff für eine Politik-Debatte
  3. "Vassilakous Baustopp ist ein PR-Gag"
  4. "Muss schlichten statt unterrichten"
  5. Wohin die Busse fahren sollen

Werbung




Werbung