Dokumente enthüllen

Facebook nutzt die deutsche Querdenker-Bewegung für ein Experiment

Facebook führte das Experiment Querdenken durch, bei dem  getestet wurde, ob sich die Verbreitung gefährlichen Gedankenguts durch Änderungen im Algorythmus verkleinern lässt.
Facebook führte das Experiment Querdenken durch, bei dem getestet wurde, ob sich die Verbreitung gefährlichen Gedankenguts durch Änderungen im Algorythmus verkleinern lässt.
© imago images/Joko, via www.imago-images.de, www.imago-images.de

28. Oktober 2021 - 15:50 Uhr

Ehemalige Mitarbeiterin verrät Facebooks "Querdenken Experiment"

von Malte Mansholt

Wie geht man mit Gemeinschaften um, die immer wieder Falschmeldungen verbreiten? Mit dieser Frage hadert Facebook nach wie vor. Nun kommt heraus: Die deutsche Querdenken-Bewegung wurde vom Konzern als "Experiment" behandelt.

Experiment als Lösungsansatz für Problem mit Falschmeldungen und extremistischen Gruppen

Jahrelang gab es bei Facebook und der Tochter Instagram nur eine Währung: Wurde ein Artikel, Post oder Video besonders intensiv diskutiert, geteilt und kommentiert, landete er im Feed ganz oben. Doch in den letzten Jahren wurde es immer offensichtlicher, dass der Konzern in seinen sozialen Netzwerken ein Problem mit Falschmeldungen und extremistischen Gruppen hat. Um derer Herr zu werden, versuchte man teilweise sehr unterschiedliche Ansätze. Einer davon: das "Querdenken Experiment".

Das geht aus einem eigentlich nur intern genutzten Dokumente zur deutschen Bewegung der Covid-Skeptiker hervor, das auf den 29. April diesen Jahres datiert ist. Öffentlich geworden ist es im Rahmen der zahlreichen Leaks durch die ehemalige Mitarbeiterin Frances Haugen: Sie waren Teil ihrer Aussage gegenüber dem US-Kongress. Und geben umfangreiche Einblicke in die Vorgänge des Internetgiganten.

Facebooks erster Schritt gegen Falschmeldungen und Radikalisierung

Dass Facebook gegen die Querdenker vorging, war kein Geheimnis: Mitte September kündigte der Konzern an, auf den eigenen Plattformen Instagram und Facebook gegen die Bewegung vorzugehen, nahm zahlreiche Gruppen, Posts und Videos offline. Doch hinter den Kulissen schien der Kampf schon länger geführt worden zu sein.

Denn Querdenken war von Facebook als Testobjekt für seinen größeren Kampf gegen die immer offensichtlicheren Probleme erkoren worden. Das Experiment sei ein "Proof of Concept", also eine Machbarkeitsstudie, heißt es in den Dokumenten. "Es handelt sich hier um einen guten Zwischenschritt zwischen Nichtstun und einer Eskalation bis zu einem Punkt, an dem wir hart vorgehen müssen", heißt es.

RTL NEWS empfiehlt

Anzeigen:

Querdenker auf Facebook können offline zur Gefahr werden

Die Problematik der Querdenken-Bewegung war Facebook durchaus bewusst. Die Bewegung habe eine "robuste Präsenz" auf der eigenen Plattform, erfolgreiche Seiten und entsprechende Reichweite, analysiert das Papier. Gleichzeitig war dem Konzern bewusst, dass es Überschneidungen mit anderen Problem-Bewegungen wie QAnon und den Reichsbürgern gibt. Auch die Gewalt, die es auf einigen Demonstrationen gab und die Beobachtung durch den deutschen Staat waren Facebook bei Anfang des Experimentes bekannt. Sowohl die tief verwurzelten Verschwörungs-Ideologien als auch die "Offline-Gewalt" wurden als konkrete Gefahren gelistet.

Gleichzeitig wären die Verbindung zur Gewalt noch nicht weitreichend genug, um eine konkrete Sperre zu rechtfertigen, wie sie bei anderen radikalen politischen Gruppierungen im Netzwerk erfolgt war, glaubte Facebook. Querdenken sei geradezu ein Paradebeispiel für die im Konzern neu definierte "Harmful Topic Community" (Gemeinschaft um ein schädliches Thema), kurz HTC. Bei diesen gehe es anders als bei politischen Gruppierungen weniger darum, konkrete Ziele zu erreichen, auch der Organisationsgrad sei niedriger. Es handle sich vielmehr um organisch um ein problematisches Thema herum gewachsene Gemeinschaften.

Der Ablauf von Facebooks "Querdenken Experiment"

Das ändere auch den Umgang mit den Gruppen. Statt hart gegen Einzelne vorzugehen, solle man in erster Linie das Wachstum unterbinden und eine Normalisierung der Problem-Bereiche unter den Nutzern zu unterbinden. Dazu wollte man gezielt die Sichtbarkeit senken. Konkret bedeutete das: Wird eine Interessengemeinschaft als HTC definiert, erscheinen die Posts der Gruppen seltener in Feeds, werden die Gruppen weniger vorgeschlagen und auch die Mitglieder tauchen weniger häufig als Freundesvorschläge auf. So sollten die Themen nicht von Facebook beim Wachsen unterstützt werden. Und Querdenken sollte Facebooks Experiment werden, ob das möglich ist.

Die Bewegung sei mit den im September anstehenden Wahlen und der großen Übereinstimmung mit der internen Definition einer HTC dafür wie geschaffen, erklärt das Thesenpapier. Der Plan selbst war einfach: Die Community sollte über drei Wochen eingegrenzt werden, dann sollten weitere drei Wochen die Maßnahmen greifen. Eine letzte Woche hatte Facebook eingeplant, um die Ergebnisse zu analysieren.

Ob der Plan letztlich so umgesetzt wurde, geht aus dem Papier nicht hervor. Ein Update vom 11. Mai nennt einen Starttermin drei Tage später, nachdem erste Vorversuche vielversprechend ausgesehen hätten. Gegen einen durchschlagenden Erfolg des Experiments spricht Facebooks Vorgehen bei der Entfernung des Querdenken-Netzwerkes im September: Das schädliche Verhalten sei dort von einer Kerngruppe von Personen ausgegangen, die sich stark koordiniert hätten, erklärte Facebook in einem Blogpost. Und griff statt auf weiche Maßnahmen wie weniger Sichtbarkeit auf Löschungen und Sperren zurück.

Hinweis: Dieser Artikel erschien zuerst bei stern.de.