Blick hinter die Kulissen – Wie Facebook gegen Fake News kämpft

Die Rolle von Facebook bei der Verbreitung von Fehlinformationen ist auf den Prüfstand gekommen. Was hat das Unternehmen gegen das Problem unternommen und wie läuft der Kampf?

Bisher konzentrierte sich Facebook zusammen mit 27 Partnern in 17 Ländern hauptsächlich auf das Fact Checking von Artikeln. Dies wird jetzt auf Bilder und Videos erweitert, wie Facebook in dessen Newsroom berichtet.

Facebook möchte die Art und Weise, wie gegen Fake News vorgegangen wird, nun transparent der Öffentlichkeit vorstellen, da viele Nutzer subjektiv der Meinung sind, dass sich eigentlich gar nicht tun würde. Deswegen veröffentlichen sie ein 11 Minuten langes Video, welches ihre Arbeit und die Schwerigkeiten dabei zeigt:

Da nun aber nicht jeder des Englischen mächtig ist, möchten wir euch die zentralen Punkte des Videos erläutern.

Das Problem mit gemeldeten Beiträgen

Eines der Probleme bei Mißinformationen ist es, dass oftmals schwer auszumachen ist, was nun eigentlich wahr ist. Man denke nur an all die Nachrichten, welche man so am Tag liest. Was ist objektiv falsch, was ist objektiv wahr? Die Wahrheit hat oftmals die unangenehme Eigenschaft, dass sie nicht mit den eigenen Vorstellungen und Meinungen übereinstimmt. Aufgrund dessen gibt es viele Nachrichten, die subjektiv, aber nicht objektiv Fake News sind.

Neutralität

Es wäre schlimm, wenn Facebook jedes Posting, jedes Bild genau unter die Lupe nehmen würde. Genauso falsch ist es aber, wenn jeder alles posten könnte, was in den Kram passt, beispielweise Pornographie oder Hassreden. Es muss also eine Mitte geben, doch diese Mitte ist recht groß.

Es ist nicht immer schwarz und weiß

Es gibt nicht nur Wahrheiten und Lügen auf Facebook. Wenn es so einfach wäre, dann würde es gar klein Problem darstellen. Allerdings gibt es auch beispielsweise den heiklen Bereich der Propaganda: Es werden echte Statistiken genommen, echte Zahlen genannt, diese werden aber in falschem Kontext gebracht, oder es werden sich nur kleine Teile einer echten Statistik herausgepickt, um die eigene Meinung zu festigen („Cherrypicking“).
Da wird es schon schwierig für Facebook, denn Propaganda ist nicht grundsätzlich falsch, es unterdrückt nur oftmals andere Aspekte einer Tatsache.

Eine Unterteilung

Fake News selbst lässt sich in verschiedene Kategorien einteilen, wie jenes Chart im Video zeigt:

1. Schlechte Personen
   Am Bekanntesten sind Fake Accounts, Spammer und Scammer
2. Schlechtes Verhalten
   Beispielsweise das Polarisieren oder falsch informieren, aber auch Romance Scamming, also das Vortäuschen von Liebe, um an Geld zu kommen
3. Schlechte Inhalte
   Wie beispielsweise falsche Nachrichten, Hassreden, Gewaltdarstellungen und Clickbait

All diese Punkte sind miteinander verwoben, doch jeder dieser Punkte benötigt eine bestimmte Strategie, um dagegen vorzugehen, weswegen Facebook auch diverse Teams hat, die miteinander immer wieder kommunizieren und sich abgleichen.

Die weitere Vorgehensweise

Es gibt im Prinzip drei Möglichkeiten, mit denen dann vorgegangen wird: Löschen, Reichweite einschränken und informieren:

1. Löschen:
   gelöscht werden Hassreden, terroristische Inhalte, Fake Accounts und Bullying
2. Reduzieren:
   reduziert werden Clickbait, Falschnachrichten und Nachrichten mit übertrieben sensationellen Inhalten („Ihr werdet nicht glauben, was dieser…“)
3. Informieren
   Wenn es zu einer bestimmten Thematik auch noch andere Artikel gibt oder ein Artikel den Interessen eines Nutzers entspricht, tauchen diese im Newsfeed auf

Facebook stellt klar, dass im Newsfeed immer noch Hassreden oder Clickbait auftauchen können, wenn diese von Freunden geteilt werden, somit wird so manches wohl nie von Facebook verschwinden.

Die Herausforderung: Bilder und Videos

Texte können relativ leicht durch Algorithmen überprüft werden, schwieriger jedoch ist es mit Bildern und Videos. Dieser Herausforderung, jene Medien bereits mittels Algorithmen als echt oder Fake zu erkennen, stellt sich Facebook jetzt.

Wie wird das funktionieren?

Ähnlich wie es bei Artikeln bereits läuft, überprüft nun ein spezieller Algorithmus auch Bilder und Videos, welcher verschiedene automatisierte Methoden nutzt, beispielsweise wird eine automatische Bildersuche im Netz ausgeführt, um festzustellen, wie oft ein Bild bereits im Internet aufgetaucht ist.

Verdächtige Bilder und Videos werden dann an die externen Fact Checker weitergeleitet, um sie einer genaueren Prüfung zu unterziehen. Jene Fact Checker sind spezialisiert auf die genauere Untersuchung des Materials, indem sie beispielsweise nach den Metadaten eines Bildes schauen, um festuzstellen, wann und wo ein Bild oder Video aufgenommen wurde. Zusätzlich bekommen sie noch Unterstützung von Experten, Wissenschaftlern oder Regierungsbehörden.

Je mehr Bewertungen der Fact Checker dann bei Facebook eingehen, umso genauer wird auch die maschinelle Erkennungsmethode für das Material.

Beispielsweise besitzt der Algorithmus einen OCR-Mechanismus. Dadurch werden Texte in Bildern erkannt, diese Texte dann mit Artikeln verglichen, um den Wahrheitsgehalt zu überprüfen. Zudem arbeitet Facebook noch an Techniken, um automatisiert festellen zu können, ob ein Bild möglicherweise manipuliert wurde, bevor es an die Fact Checker zur Überprüfung gesendet wird.

Wie kategorisiert Facebook potenzielle Fakes und Hoaxes?

Gewöhnlich kann man Fakes und Hoaxes in drei Kategorien einteilen:
1. manipulierte oder komplett gefälschte Bilder
2. aus dem Kontext gerissene Bilder
3. echte Bilder mit falschen Behauptungen in Textform oder Audioform

Diese drei Kategorien bilden die Grundlage der automatisierten Fake-Erkennung.

Was ist der nächste Schritt?

Facebook arbeitet nun daran, mit Hilfe der von den Fact Checkern geprüften Fotos und Videos den Algorithmus weiter zu verfeinern. Dies ist noch ein langer Weg, bis solche Meldung automatisiert verschwinden werden. Auch ist natürlich die Gefahr groß, dass Berichte über Fakes und Hoaxes, welche ja diese Bilder in Artikeln verwenden müssen, selbst als Fake erkannt werden.

Um dieses System so perfekt wie möglich zu machen, wird Facebook auch in den nächsten Monaten nach neuen Partnern Ausschau halten und weiter an jenem Algorithmus arbeiten, welcher seit dem 13. September 2018 im aktiven Betrieb ist.