Microsoft nimmt Social-Rassismus-Bot wieder vom Netz


Oder: “wie eine künstliche Intelligenz zum Rassisten wird”. Das ganze ist kein Fake: Microsoft startete mit der künstlichen Intelliganz TAY ein Experiment. Tay tweetete auf Twitter, Tay unterhielt sich mit den Menschen und lernte aus den Situationen.


SPONSORED AD


Und Tay passte sich selber an, was letztendlich auch dazu führte, dass Microsoft letztendlich Tay Gelerntes von sich gab. Problem dabei: das Gelernte war dann eher nicht im Sinne der Erfinder. Tay wurde beleidigend, rassistisch und frauenfeindlich. Und das innerhalb von 24 Stunden.

image

Tay – @TayandYou

Tay ist eine künstliche Intelligenz, welche von Microsoft vorgestellt wurde und sich auf Twitter, Groupme und Kik mit den Menschen unterhalten sollte. Tay hat zunächst ein gewisses Basiswissen an die Hand bekommen (nach Aussage von Microsoft “relevant public data”) und programmiert, improvisieren zu können. Und eben zu kombinieren und inhaltlich zusammenhängend zu antworten. Was aber in der Realität daraus wurde, lässt schaudern: Tay fehlte die Möglichkeit, Inhalte zu bewerte und sortieren zu können. So ließ sich Tay völlig gleichwertig von den verschiedensten Informationen beeinflussen, teilweise lag der Beeinflussung auch gezielt vor, da mehrere Accounts dazu aufriefen, Tay bewusst mit falschen Einschätzungen zu füttern. Das Resultat war ein rassistisch-frauenfeindlicher Beleidigungsbot:

Microsoft reagierte darauf und löschte Tays Kommentare zunächst, als jedoch Tays Interaktion immer heftiger wurde, zog man komplett die Bremse. Tay tweetet nicht mehr.

Bewertung

Ist Tay nun ein misslungenes Experiment? Nein, unserer Ansicht nach eher nicht. Auch Golem meint [1], dass es sich hierbei nicht um einen Fehlschlag handeln muss:

Ein Fehlschlag muss das Experiment mit Tay allerdings nicht unbedingt sein: Es ist sicher interessant zu beobachten, wie schnell eine unbedarfte KI beeinflussbar ist und sich – basierend auf eigenen, als sinnvoll erachteten Analysen – plötzlich rassistisch äußert.

Auch einige User sind der Ansicht, dass man hätte Tay auf keinen Fall löschen dürfen, sondern als ein Mahnmal hatte stehen lassen müssen, in dem die Gefahren künstlicher Intelligenz deutlich zu sehen sind:

Der Spiegel meint [2] an dieser Stelle, das Tay einfach noch nicht reif genug war.

In den Robotergesetzen des Science-Fiction-Autors Isaac Asimov steht: “Ein Roboter darf keinen Menschen verletzen.” Tay war offenkundig noch nicht soweit.

An dieser Stelle ergänzen wir noch, dass wohl nicht nur Tay noch nicht reif genug für die Menschen war, offenkundig sind die Menschen auf noch nicht reif genug für Tay.



Zuerst schützen-dann klicken! Schütze auch du deinen Desktoprechner, dein Tablet-sowie dein Smartphone vor Internetbetrug, Trojanern und Viren sowie vor Datenklau.


Hinweis: die Verwendung von Inhalten in Zitatform und Grafiken (auch Screenshots) aus diesem Artikel ist nicht ohne Nennung der Quelle und direkter Verlinkung gestattet.


Dir hat dieser Bericht gefallen- oder wir konnten dir mit diesem weiterhelfen?
Dann würden wir uns über eine kleine Spende sehr freuen.
PayPal

Mit deiner Unterstützung können wir auch weiterhin das Internet ein Stück sicherer machen und dich und andere Internetuser unterstützen.

ZDDK.eu