Querdenken: Für Facebook ein Experiment über koordinierten sozialen Schaden

Was machst du, wenn auf deiner Plattform eine ganze Gruppe Menschen Unfrieden stiftet? Du machst aus der Not eine Tugend!

Facebook hatte schon immer das Ziel, Menschen mit gemeinsamen Interessen zueinander zu führen. Das ist auch durchaus löblich und funktioniert auch in sehr vielen Fällen: Ob Strickbegeisterte, Hobbygärtner oder Computerbastler: Für jedes Hobby und jedes Faible finden sich Gruppen mit Gleichgesinnten. Leider aber auch für Menschen, die dem sozialen Miteinander eher schaden: Corona-Leugner und Impfgegner, oder kurz: „Querdenker“.

Querdenken – Der Aufstieg

Sowohl online als auch offline hat sich die Querdenken-Bewegung seit Anbeginn der Corona-Pandemie bis zum heutigen Tag in eine Struktur verwandelt, die man nur noch mit der QAnon-Bewegung in den USA vergleichen kann – und der Vergleich kommt nicht von Ungefähr, denn Schnittmengen gibt es.

Während in den USA die QAnon-Bewegung eher politisch orientiert ist, gewürzt beispielsweise mit einer Prise Verschwörung über Kinder, denen von den Eliten Adrenochrom abgezapft wird, vermischen hierzulande QAnon-Anhänger die Politik mit zusätzlichen Verschwörungserzählungen: Die Corona-Pandemie sei eine „Plandemie“ (also eine geplante Pandemie), die schon vor Jahren beschlossen wurde, die Impfstoffe sind schädlich und führen Wochen, Monate oder Jahre später zum Tod, zudem sind sie mit Nano-Chips versehen, um die Menschen fernsteuern zu können. Schuld sind natürlich Politiker und noch höher gestellte Mächte.

In dieser Unsicherheit einer weltweiten Pandemie hatte es die Querdenken-Bewegung natürlich einfach, Anhänger zu finden, denn sie bieten das, was viele Verschwörungserzählungen machen: Einfache Lösungen für komplexe Sachverhalte – auch wenn diese Lösungen noch so unlogisch und verworren sind. In Wahrheit wird nicht quer gedacht. Es wird gar nicht gedacht.

Querdenken – Das Experiment

___STEADY_PAYWALL___

Für Facebook stellte sich, als klar wurde, dass sich die Querdenken-Bewegung auf der Plattform immer mehr teilweise radikalisierte, nun die Frage, wie damit umzugehen ist. Bereits in der Vergangenheit zeigten sich einige Schritte gegen die QAnon-Bewegung als effektiv, so dass man die Querdenken-Bewegung als Experiment gebrauchen wollte: Einen Mittelweg zwischen dem Nichtstun und Abwarten, bis man radikalere Schritte unternehmen muss.

Facebook entwickelte zu dem Zeitpunkt bereits eine neue Klassifizierung namens “harmful topic community” (HTC, gefährliche Themengemeinschaft), und die Querdenken-Bewegung eignete sich nun hervorragend dafür, diese Klassifizierung in der Praxis zu testen.

Das Querdenken-Experiment begann am 23. April, wurde ab dem 7. Mai konfiguriert und sollte am 28. Mai starten – doch es gab noch Verzögerungen.

Die Ziele des Experiments

Konkret hat Facebook bezüglich der Querdenken-Bewegung folgende Hypothesen und Ziele:

1. Mit Hilfe des Erkennungsmodells von HTC kann Facebook die Community rund um das Thema Querdenken schnell und mit hoher Präzision und Wiedererkennung identifizieren
2. Facebook könnte das Wachstum der Querdenken-Community eindämmen, und zwar durch
   1. Kommunikation und neue Verbindungen mit anderen Mitgliedern reduzieren, und
   2. Facebook kann verhindern, dass Nutzer die Gruppen allzu leicht finden und dadurch in Gefahr laufen, radikalisiert zu werden
3. Facebook will verstehen, wie man am effektivsten auf schädliche Themengemeinschaften einwirken kann. Dafür sollen mehrere Durchsetzungsmechanismen getestet werden, wie beispielsweise Einschränkung der Funktionalitäten und Nicht-Sichtbarkeit in den News-Feeds

Der Aufbau des Experiments

Das Erkennungsmodell von HTC soll zwei Gruppen von Nutzern unterscheiden:

1. Nutzer, die bereits Mitglieder in Querdenken-Gruppen sind, Querdenken-Seiten liken und dort kommunizieren
2. Nutzer, die noch keine Verbindung zur Querdenken-Bewegung haben, aber aufgrund ihres bisherigen Online-Verhaltens (Kommentare, Likes, Mitglied ähnlicher Gruppen etc.) auf einem „radikalisierenden Pfad“ wandeln und mit hoher Wahrscheinlichkeit bald auch zu den Querdenkern stoßen

Für die Nutzer sollen folgende Maßnahmen umgesetzt werden:

• Keine Gruppenvorschläge für ähnliche Gruppen
• Keine Freundschaftsvorschläge mit Nutzern, die auch in Querdenken-Gruppen verkehren
• Keine Seitenvorschläge mit Seiten, die zu der Querdenken-Bewegung gehören
• Keine Einladungsvorschläge, um andere Nutzer in die Gruppe zu ziehen

Zudem sollten einige Funktionen limitiert werden, beispielsweise Gruppenbenachrichtigungen und Gruppeneinladungen, Mitglieder von Querdenken-Gruppen bekamen also weniger häufig eine Benachrichtigung über neue Inhalte oder Reaktionen in den Gruppen.

Diese Maßnahmen sollen aber nicht auf alle Nutzer angewendet werden, stattdessen wird noch einmal unterteilt in eine Testgruppe und eine Kontrollgruppe, um zu sehen, wie stark sich das Verhalten der Nutzer ändert, wenn die Maßnahmen durchgesetzt werden.

Es stellte sich auch intern bei Facebook die Frage, ob diese Maßnahmen nicht eine Einschränkung der freien Rede seien, doch kam man zu der Erkenntnis, dass dem nicht so sei:
Die Maßnahmen beträfen nur einen relativ kleinen Teil der gesamten Nutzer, es werden keine Inhalte entfernt, es werden keine Nutzer, Seiten oder Gruppen gelöscht, die Maßnahmen gelten nur für einen befristeten Zeitraum. Zudem hatten die Nutzer weiterhin vollen Zugriff auf die Gruppen, mussten dort bloß aktiv nachschauen, ohne dass sie über neue Postings benachrichtigt wurden.

Querdenker werden als Verschwörungserzähler eingestuft

Mehrere Punkte rechtfertigten in dem Experiment die Maßnahmen, da die Querdenken-Bewegung zu den Verschwörungserzählern eingestuft wurden:

• Der Glaube, dass die COVID-19 Maßnahmen der deutschen Regierung unsinnig und Teil eines größeren Plans seien, um die Bürger ihre Grundrechte und politische Freiheit zu entziehen
• Die Verknüpfung der Bewegung zu physischer Gewalt und Verbrechen, inklusive der versuchten Stürmung des Reichstags

Das Experiment verzögerte sich

Bei den Vorbereitungen für das Experiment ist Facebook aber auf einige Hürden gestoßen. Ursprünglich sollte es vor den Landtagswahlen am 6. Juni in Sachsen-Anhalt beendet sein, doch kam es zu rechtlichen Problemen.

So habe der deutsche Rechtsbeistand Bedenken wegen eventueller Rechtsstreitigkeiten geäußert. So gebe es datenschutzrechtliche Bedenken hinsichtlich der Verwendung sensibler Daten, die speziell die EU betreffen.

Die Folgen des Experiments

Ein Erfolg, den sich die Querdenken-Bewegung auf die Fahnen schreiben kann: Im September verlautbarte Facebook, dass sie eine neue Richtlinie zur Beseitigung von schädlichen Gruppierungen einführen (siehe HIER).

Explizit wird in dieser Verlautbarung die Querdenken-Bewegung genannt: Diese hätten konsequent gegen die Community-Standards bezüglich gesundheitsschädlicher Fehlinformationen, Aufstachelung zur Gewalt, Mobbing, Belästigung und Hassreden verstoßen.

Zur gleichen Zeit löschte Facebook 150 Kanäle der Querdenken-Bewegung. Darüber hinaus hat Facebook seine Erkenntnisse anderen Plattformen, wissenschaftlichen Institutionen, Strafverfolgungsbehörden und politischen Akteuren zur Verfügung gestellt.

Fazit

Wie aus den Papieren hervorgeht, scheint das Experiment gut verlaufen zu sein, die endgültigen Ergebnisse sind aber leider nicht ersichtlich. Trotzdem sieht man recht gut, wie komplex das Zusammenspiel von Richtlinien und deren Durchsetzung sein kann, wobei umfassendere Richtlinien oft mit Blick auf bestimmte Gruppen umgeschrieben werden.

Dies war also der Erfolg und der Misserfolg der Querdenken-Bewegung auf Facebook:
Durch ihre wiederholten Verstöße gegen die Richtlinien, ihre Radikalisierung, ihr Mobbing und ihre Hassreden bewegten sie die weltweit größte soziale Plattform dazu, die Richtlinien zu ändern – und eliminierten sich dadurch auch selbst von dieser Plattform.

---

Das Dokument: „querdunken-experiment sanitized“