Facebook legt Anti-Kinderporno-Algorithmen offen

Bewährte Technologie findet schädliche Inhalte und vergleicht diese mit Datenbanken!

Internet-Riese Facebook macht zwei seiner Algorithmen zur Erkennung von kriminellen Inhalten quelloffen. Die beiden Technologien „PDQ“ und „TMK+PDQF“ finden Kinderpornografie sowie Inhalte, in denen Gewalt oder terroristische Propaganda gezeigt werden. Facebook will damit anderen Unternehmen, Non-Profit-Organisationen und einzelnen Entwicklern beim Kampf gegen solche Inhalte helfen.

„Grundsätzlich ist es zu begrüßen, wenn solche Inhalte im Internet schneller erfasst und aufgehalten werden können. Man muss allerdings die Frage stellen, wer bei solchen Algorithmen am Ende am längeren Hebel sitzt. Zum Beispiel besteht die Gefahr, dass politische Entscheidungsträger nicht wollen, dass ein bestimmtes Bild online geht, und dann ein Tool haben, um es immer wieder zu finden und zu taggen“, gibt Matthias Jax, Projektleiter bei Saferinternet , im Gespräch mit pressetext zu bedenken.

Algorithmen auf GitHub zugänglich

Die beiden Algorithmen speichern Dateien und vergleichen sie mit bekannten Beispielen für schädliche Inhalte. Sie wurden laut Facebook auf der Plattform GitHub veröffentlicht. Durch den freien Zugang zu dieser Technologie soll es möglich sein, gemeinsame Datenbanken aus schädlichen Inhalten zu erstellen und so schneller zu verhindern, dass diese erneut hochgeladen werden.

[mk_ad]

„Für diejenigen, die bereits ihre eigene Technologie für Inhaltsübereinstimmungen verwenden, sind diese Algorithmen eine weitere Abwehrlinie“, schreibt Facebook. Wenn die unterschiedlichen Systeme miteinander kommunizieren können, würde sie das noch stärker machen. Die Offenlegung des Quellcodes der Algorithmen sei eine Premiere für Facebook. Microsoft und Google haben bereits zuvor ähnliche Technologien öffentlich zur Verfügung gestellt.

Kooperation gegen schädliche Inhalte

Facebook hat sich im Mai dieses Jahres gemeinsam mit anderen Unternehmen aus der Internetbranche als Reaktion auf den Anschlag in Christchurch bereit erklärt, mehr Ressourcen in die Bekämpfung von schädlichen Inhalten zu investieren und dabei die Zusammenarbeit zwischen einander zu verstärken. Laut Facebook ist die Aufrüstung von Sicherheitsmaßnahmen auch dringend nötig, da 2019 beispielsweise mehr Kinderpornografie im Internet zu finden sei als je zuvor.

Quelle: pte
Artikelbild: Shutterstock / Von rafapress