Peinlich: Facebook-Algorithmus verwechselte schwarze Menschen mit Affen

Annika Hommer, 6. September 2021
Information
Information

Für das Versagen des Facebook-Algorithmus gibt es mittlerweile diverse Beispiele. Bei einem aktuellen Vorfall wurde Menschen, die sich ein Video über einen rassistischen Vorfall in den USA ansahen, der Vorschlag „weitere Videos über Primaten“ angezeigt.

Unausgereifter Algorithmus: Dass der Facebook-Algorithmus nicht immer genau weiß, was er tut, ist bereits bekannt. Da wurden in der Vergangenheit schon Fotos von Spargel-Gemüse für männliche Genitalien gehalten oder Faktenchecks als Fakenews eingestuft und gesperrt (*hust* auch bei uns schon vorgekommen, danke Facebook).

Die aktuelle Algorithmus-Panne geht noch darüber hinaus. Bei dem Video „Weißer Mann ruft Polizei wegen schwarzen Männern am Hafen“ wurden die gezeigten People of Color (Menschen mit dunkler Hautfarbe) vom Facebook-Algorithmus als Primaten erkannt und im Anschluss entsprechende weitere Videos vorgeschlagen.

Es handelt sich dabei um dieses Video:

Facebook

Mit dem Laden des Beitrags akzeptieren Sie die Datenschutzerklärung von Facebook.
Mehr erfahren

Beitrag laden

Die Vorschlagsfunktion wurde inzwischen von Facebook deaktiviert und das Unternehmen entschuldigte sich für den „eindeutig inakzeptablen Fehler“ bei allen, „die diese beleidigenden Empfehlungen gesehen haben könnten“. Die KI sei zwar bereits verbessert worden, aber noch immer nicht perfekt und bedürfe weiterer Fortschritte, so eine Sprecherin des Tech-Konzerns.

Gesichtserkennung nicht nur bei Facebook fehlerhaft

Die von der Sprecherin angesprochene künstliche Intelligenz nutzt unter anderem Gesichtserkennung und wird bei Facebook eingesetzt, um Inhalte für die Nutzer zu personalisieren. Der Einsatz der Gesichtserkennung und deren Ungenauigkeit wird von Bürgerrechtlern bereits seit langem kritisiert. Wie ein Bericht von „Engadget“ zeigt, ist das Problem aber keinesfalls eines, das nur Facebook betrifft. Auch Google Fotos markierte durch eine falsche Gesichtserkennung bereits Fotos von People of Color mit dem Wort „Gorilla“. Gelöst wurde das Problem von Google durch die Entfernung des Wortes „Gorilla“ aus Suchen und Bildmarkierungen.


Quelle: Facebook-Algorithmus verwechselte schwarze Menschen mit Affen 


Hinweis: Dieser Inhalt gibt den Stand der Dinge wieder, der zum Zeitpunkt der Veröffentlichung aktuell
war. Die Wiedergabe einzelner Bilder, Screenshots, Einbettungen oder Videosequenzen dient zur
Auseinandersetzung der Sache mit dem Thema.

  • Mit deiner Hilfe unterstützt du eine der wichtigsten unabhängigen Informationsquellen zum Thema Fake News und Verbraucherschutz im deutschsprachigen Raum. Ein unabhängiges und für jeden frei zugängliches Informationsmedium ist in Zeiten von Fake News, aber auch Message Control besonders wichtig. Wir sind seit 2011 bestrebt, allen Internetnutzern stets hochwertige Faktenchecks zu bieten.  Dies soll es auch langfristig bleiben. Dafür brauchen wir jetzt deine Unterstützung!

Mehr von Mimikama