Facebooks Wahlpolitik für 2024 könnte von einem kambodschanischen Video abhängen

Aug 30, 2023

Vittoria Elliott

Als Aufständische am 6. Januar 2021 zur Unterstützung des ehemaligen Präsidenten Donald Trump die US-Hauptstadt stürmten, musste sich Meta mit der Realität auseinandersetzen, dass führende Politiker der Welt – sogar solche in demokratischen Ländern – ihre Plattform nutzen könnten, um zu Gewalt gegen ihre eigenen Bürger und Politiker aufzurufen Rivalen. Das Unternehmen hatte lange Zeit an einer Richtlinie festgehalten, die Benutzern die Anstiftung zu Angriffen verbot, politischen Persönlichkeiten wurde jedoch in der Regel ein größerer Spielraum eingeräumt, da eine Technologieplattform nicht als Einmischung in den politischen Diskurs angesehen werden konnte.

Doch unter enormem Druck sperrte Meta am 7. Januar schließlich Trumps Facebook-Konto und kündigte später eine neue Richtlinie zur Aufstachelung zu Gewalt durch Persönlichkeiten des öffentlichen Lebens auf seinen Plattformen an, die bei Verstößen mit Sperren zwischen sechs Monaten und zwei Jahren droht.

Diese Politik wurde im Januar dieses Jahres in Kambodscha auf die Probe gestellt, als der autokratische Premierminister Hun Sen in einem Livestream Gegner seiner Kambodschanischen Volkspartei bedrohte und sagte, er werde „CPP-Leute zusammenrufen, um zu protestieren und Sie zu verprügeln“ und „Gangster“ dorthin schicken ihre Häuser. Hun Sen, der 14 Millionen Follower auf Facebook hat, kann auf eine glaubwürdige Geschichte von Gewalt und Einschüchterung gegen Aktivisten und politische Gegner zurückblicken. Obwohl das Video wegen eines Verstoßes gegen die Richtlinien des Unternehmens gegen Hassreden und Hetze gemeldet wurde, ließ Meta das Video offen und argumentierte, dass Hun Sen als Weltführer das Video berichtenswert gemacht habe. Im Juni erklärte das unabhängige Aufsichtsgremium von Facebook, das über ausgewählte Entscheidungen zur Moderation von Inhalten urteilt, dass die Plattform einen Fehler gemacht habe, indem sie von ihr verlangte, das Video zu entfernen, und empfahl, die Facebook-Seite und den Instagram-Account von Hun Sen für sechs Monate zu sperren. Das Unternehmen entfernte das Video, sagte jedoch, es werde die Empfehlung des Vorstands, die Konten von Hun Sen zu sperren, überprüfen.

Meta setzt in der Regel die Empfehlungen des Oversight Boards um. Doch dieses Mal scheint das Unternehmen zu zögern. Es hat bis zum 28. August Zeit, die Empfehlung des Vorstands zu prüfen und auf der Facebook-Seite von Hun Sen Maßnahmen zu ergreifen – oder auch nicht. Das Unternehmen steht nun vor einer Entscheidung, die mit Risiken behaftet ist, Konsequenzen für sich selbst und die Nutzer in Kambodscha hat und einen wichtigen Präzedenzfall vor 2024 schaffen könnte, wenn mehr als 30 Länder – darunter die USA, Indien, Indonesien, Mexiko und … Großbritannien – sollen Wahlen abhalten. Die Art und Weise, wie Meta mit dem Konto von Hun Sen umgeht, könnte einen Präzedenzfall für den Standard darstellen, den Weltführer auf seinen Plattformen haben, die von Milliarden Menschen auf der ganzen Welt genutzt werden, und die Legitimität des Aufsichtsgremiums auf die Probe stellen.

„Die Schwierigkeit wird darin bestehen, die Grenze zu ziehen, wann ein Weltführer genug gezeigt hat, dass er von der Plattform geworfen werden sollte“, sagt Katie Harbath, Mitarbeiterin am Integrity Institute und frühere Leiterin der Wahloperationen von Facebook bis 2021. „ Keine Plattform hat mitten in einer Wahl Maßnahmen ergriffen, um einen Weltführer zu stürzen. Wie sieht das im Fall Indiens aus? Oder Indonesien oder Mexiko, all diese Länder, in denen nächstes Jahr Wahlen stattfinden?“

Nur wenige Stunden nach der Veröffentlichung der Entscheidung des Aufsichtsgremiums am 29. Juni gab Hun Sen auf Telegram bekannt, wo sein Kanal knapp über 1 Million Follower hat, dass er Facebook verlassen würde, und entfernte seine Seite. Die kambodschanische Regierung verhängte ein Verbot gegen alle Mitglieder des Aufsichtsgremiums und Hun Sen drohte damit, den Zugang zu Facebook im Land zu sperren. Doch der Abschied dauerte nicht lange. Am 20. Juli, drei Tage vor den nationalen Wahlen in Kambodscha, kehrte die Seite zurück, geleitet von einem von Hun Sens Beratern, Duong Dara.

Angela Wasserschneider

Julian Chokkattu

Will Knight

Joe Ray

Das Tempo der Kehrtwende des Premierministers und seine mangelnde Bereitschaft, gegen Facebook vorzugehen, zeigen, wie wichtig die Plattform in Kambodscha ist.

Mehr als 10 Millionen der 16,6 Millionen Bürger Kambodschas – oder etwa 92 Prozent der Menschen, die Zugang zum Internet haben – nutzen Facebook. Hun Sen, seit 1985 Staatsoberhaupt des Landes, verfügt seit 2010 über eine aktive Seite. Im Jahr 2015 führte Facebook sein Free Basics-Programm im Land ein und arbeitete mit einem lokalen Telekommunikationsunternehmen zusammen, um eine ausgewählte Gruppe von Websites und Apps zu erstellen, darunter Facebook und Messenger , praktisch kostenlos für Benutzer. Dies bedeutete, dass sogar arme Kambodschaner auf Facebook zugreifen konnten und dass Facebook und seine Produkte für viele das Internet waren.

„Facebook war für die politische Botschaft von [Hun Sen] sehr wichtig und sorgte auch dafür, dass er den Wählern und Bürgern verschiedener Teile des Landes nahe kam“, sagt Sokphea Young, eine Forscherin am University College London, die diese Rolle untersucht hat Die Plattform wurde in Kambodscha gespielt. Vor allem Menschen in abgelegenen Gebieten des Landes könnten über die Plattform mit der Regierungspartei in Kontakt treten, sagt Young.

Die Allgegenwart der Plattform, sagt er, erlaube ihr auch, als Instrument der staatlichen Überwachung zu fungieren. „Wenn Sie auf Facebook etwas ‚Schlechtes‘ tun und versuchen, alles zu mobilisieren, was nicht mit dem Gesetz vereinbar ist, werden Sie verhaftet“, sagt er. „Facebook wird in einem demokratischen Land betrieben, unterstützt aber auf diese Weise die Regierungspartei.“

Diese Funktion – und die wirtschaftliche Bedeutung von Facebook, das von vielen Unternehmen in Kambodscha genutzt wird – mache es unwahrscheinlich, dass das Land die Plattform vollständig verbieten würde, sagt Young.

Ein Verbot ist jedoch nicht ausgeschlossen. Die CPP gewann die nationalen Wahlen unter dem Vorwurf der Wahlfälschung. In einem mit Spannung erwarteten Schritt kündigte Hun Sen an, dass er am 22. August zurücktreten und das Amt des Ministerpräsidenten an seinen Sohn Hun Manet übergeben werde. Hun Sen wird Präsident des Senats und amtierendes Staatsoberhaupt, wenn der kambodschanische König ins Ausland reist.

Das Land hat Telekommunikationsunternehmen zuvor angewiesen, Dutzende Websites, darunter die meisten unabhängigen Medien, zu sperren, und hat im vergangenen Jahr ein eigenes Internet-Gateway eingerichtet, das ihm mehr Kontrolle darüber gibt, worauf die Menschen im Land zugreifen können.

Da die Macht des Regimes über das Land gesichert ist, besteht für die Regierung weniger Gefahr, Facebook zu blockieren. „Wir sehen das jetzt als echte Bedrohung“, sagt Golda Benjamin, Aktivistin für den asiatisch-pazifischen Raum bei Access Now. „Da die Wahl vorbei ist, besteht meiner Meinung nach eine echte Gefahr, die Plattform zu blockieren und dann auch die physische Präsenz aller Facebook-Mitarbeiter in Kambodscha zu gefährden.“

Die Androhung eines Verbots erschwert die Entscheidungsfindung von Meta und bringt sowohl kommerzielle als auch Meinungsfreiheitsaspekte in ihre Überlegungen ein: Ist es für die Plattform besser, ihre Richtlinien strikt durchzusetzen und zu riskieren, dass Millionen von Menschen den Zugang zu Informationen und Diensten verlieren oder Kompromisse eingehen? Ist es seine Politik – und die Integrität des Aufsichtsgremiums –, sie online zu halten?

Meta-Sprecher Corey Chambliss sagte gegenüber WIRED, dass das Unternehmen „sich weiterhin darauf konzentriert, sicherzustellen, dass so viele Menschen wie möglich unsere Dienste nutzen können, um das zu teilen, was ihnen wichtig ist, und gleichzeitig Inhalte zu entfernen, die gegen unsere Regeln verstoßen.“

Angela Wasserschneider

Julian Chokkattu

Will Knight

Joe Ray

Ein Mitglied des Aufsichtsgremiums, das unter der Bedingung der Anonymität mit WIRED sprach, sagte, das Gremium habe bei der Formulierung seiner Entscheidung die Möglichkeit eines landesweiten Verbots der Plattformen von Meta in Betracht gezogen. „Unserer Meinung nach war es wichtiger, das Regime davon abzuhalten, die Plattform zur Bedrohung der politischen Opposition zu nutzen, selbst auf die Gefahr hin, dass Facebook jetzt geschlossen werden könnte“, sagen sie. „Bei einer solchen Entscheidung geht es nicht nur darum, einen Beitrag zu streichen, sondern darum, das Unternehmen in Richtung einer konsequenteren Durchsetzung seiner bereits bestehenden Regeln zum Missbrauch der Plattform zu bewegen.“

Es ist nicht klar, ob die Suspendierung von Hun Sen wesentliche Auswirkungen auf seine Fähigkeit haben würde, Anhänger zu erreichen.

Eine Analyse der Erwähnungen von Donald Trump nach seiner Suspendierung auf Facebook und Twitter ergab, dass die Gespräche um ihn herum zwar zurückgingen, die Forscher konnten jedoch nicht sagen, ob dies auch auf ein gleichzeitiges Vorgehen gegen viele rechtsextreme Gruppen zurückzuführen war, die ihn ebenfalls unterstützten.

Die Unterstützer von Hun Sen und andere Parteimitglieder werden mit ziemlicher Sicherheit auf der Plattform aktiv bleiben. Er nutzt Telegram und hat einen beliebten TikTok-Account – obwohl keiner von beiden so viele Follower hat wie seine Facebook-Seite. Anstelle einer völligen Sperre könnte das Unternehmen laut Benjamin von Access Now auch halbherzige Maßnahmen ergreifen, etwa die Möglichkeit zum Teilen von Inhalten von der Seite von Hun Sen entfernen oder deren Reichweite herabsetzen. In seiner aktuellen Richtlinie sagt Meta, dass Seiten, die gegen seine Community-Richtlinien verstoßen, „aus den Empfehlungen entfernt und ihre Verbreitung eingeschränkt werden können“.

Aber Piseth Duch, ein kambodschanischer Menschenrechtsanwalt und Rechtsanalyst, sagt, dass Meta unabhängig von den Risiken konsequent an seiner Politik festhalten sollte. „Ich glaube, dass sie sich strikt an ihre Prinzipien halten sollten, unabhängig vom Führer jedes Landes“, sagt er.

Auch wenn, wie einige argumentiert haben, die Drohung, von der Plattform gesperrt zu werden, vielleicht ausgereicht hätte, um Hun Sen davon zu überzeugen, sich seit Januar an die Community-Richtlinien von Facebook zu halten, bedeutet das Fehlen von Konsequenzen bei Verstößen gegen die Regeln, dass andere die Grenzen unweigerlich austesten werden die Zukunft. Wenn Meta keine Konsequenzen zieht, „werden andere Menschen weiterhin Facebook nutzen, um zu Gewalt aufzustacheln oder Reden zu äußern“, sagt Duch.

Die Entscheidung von Meta könnte Konsequenzen für das Aufsichtsgremium haben, das ein zentraler Bestandteil der Unternehmensführung ist. Das Gremium wurde 2018 gegründet, um als eine Art unabhängige Justiz für Meta-Plattformen zu fungieren, insbesondere in Fragen der Moderation von Inhalten. Meta finanziert es über einen unwiderruflichen Trust, hat aber kein Mitspracherecht bei seinen Entscheidungen.

Der Vorstand kann sowohl verbindliche Beschlüsse als auch unverbindliche Empfehlungen aussprechen. Ihre ersten Entscheidungen wurden im Januar 2021 veröffentlicht und seitdem hat sie 191 Empfehlungen an Meta übermittelt, von denen einige die Plattform gezwungen haben, ihre internen Richtlinien neu zu bewerten. Viele von ihnen befassten sich mit heiklen Themen, etwa der Frage, ob Inhalte einer Nachrichtenagentur, die über die afghanische Taliban-Regierung (die als „gefährliche Organisation“ gilt) berichteten, auf dem Laufenden bleiben könnten (das könnte sie), oder ob eine kroatische Karikatur, in der ethnische Serben als „Ratten“ angedeutet wurden, gegen Metas verstieß Hassrede regiert (das tat es). Im Fall des Kontos von Hun Sen erließ das Gremium eine verbindliche Entscheidung, das beleidigende Video zu entfernen, und empfahl eine Sperrung des Kontos des Premierministers.

Angela Wasserschneider

Julian Chokkattu

Will Knight

Joe Ray

Benjamin von Access Now sagt, dass die Nichtbefolgung der Empfehlung des Vorstands die Frage aufwerfen könnte, wie das Unternehmen in Zukunft Probleme mit gewalttätiger und hasserfüllter Sprache angehen wird – insbesondere, wie es mit dem Kontext umgeht, in dem ein Beitrag verfasst wird. „Wenn Meta der Empfehlung des Aufsichtsgremiums nicht nachkommt, spricht das auch für seine Aufrichtigkeit und sein Engagement für seine eigenen Richtlinien gegen gewalttätige und schädliche Inhalte“, sagt sie. „Wenn sie dieser Empfehlung nicht Folge leisten, sind wir gezwungen, wieder an das Reißbrett zu gehen und die Meinungsfreiheit für jeden einzelnen Beitrag zu prüfen.“

Das Mitglied des Aufsichtsgremiums sagt, dass das Gremium keine allgemeingültigen Empfehlungen dafür herausgibt, wie Meta künftige Wahlen angehen soll. „Jede Wahl wird einzigartig sein, der Zeitpunkt wird anders sein, die Art der aufkommenden Themen ist unterschiedlich“, sagen sie. Der Vorstand hat jedoch empfohlen, dass Meta ein neues System einführen sollte, damit es zu einer raschen Eskalation kommt, wenn Staatsoberhäupter versuchen, auf ihren Plattformen Gewalt anzustiften, um zu versuchen, den dadurch verursachten Schaden zu begrenzen.

Aber was wie eine auf einen kleineren Markt verbannte Frage erscheint, könnte massive Auswirkungen auf andere Länder haben. In Indien, Facebooks größtem Markt, hat die rechtsextreme, hindu-nationalistische regierende Bharatiya Janata Party (BJP) TikTok bereits verboten und Meta beschuldigt, nationalistische Nutzer zu zensieren, obwohl das Wall Street Journal berichtete, dass das Unternehmen routinemäßig hasserfüllte und kriminelle Inhalte veröffentlichte Gewalttätige Inhalte von BJP-Mitgliedern bleiben auf Facebook auf dem Laufenden. Letztes Jahr kündigte das Land die Einrichtung eines Berufungsausschusses für Beschwerden an, der Moderationsentscheidungen großer Technologieunternehmen überwachen soll. Die Regierung verlangt außerdem, dass ausländische Technologieunternehmen über Vertreter im Land verfügen, die rechtlich für Unternehmensentscheidungen verantwortlich gemacht werden können, und hat eine staatliche Abteilung zur Faktenprüfung eingerichtet, die Inhalte kennzeichnen kann, die sie als irreführend über die Regierung und die Unternehmen erachtet , und sogar Internetdienstanbieter, müssen diese einhalten. Nach den USA hat Indien die meisten Anträge auf Entfernung von Inhalten von Metas Plattformen gestellt.

Sollte es bei den Wahlen in Indien zu einer ähnlichen Situation wie in Kambodscha kommen, könnte Meta nicht nur mit einem möglichen Verbot rechnen, das Hunderte Millionen Nutzer sperren würde, sondern auch mit der Verhaftung seiner Mitarbeiter im Land.

Und möglicherweise ist diese Frage nirgends so aktuell wie in den Vereinigten Staaten, wo Donald Trump, die Person, für die Metas Politik ursprünglich geschrieben wurde, bereits begonnen hat, für die Präsidentschaft zu werben. Seine Suspendierung bei Facebook endete Anfang 2023, aber die „Leitplanken“ bleiben bestehen – wenn er erneut gegen die Richtlinien des Unternehmens verstößt, wird er für einen Zeitraum von einem Monat bis zu weiteren zwei Jahren gesperrt. Wie sich das mitten im Wahlkampf auswirken wird, ist unklar.

Harbath vom Integrity Institute sagt, dass die Kambodscha-Entscheidung dem Aufsichtsgremium die Möglichkeit gegeben hätte, Meta bei der Vorbereitung auf die bevorstehenden Wahlen zu unterstützen.

„Ich denke, dass das Oversight Board Facebook mit dieser Angelegenheit in eine schwierige Lage gebracht hat, weil sie sich vor einer Wahl nicht wirklich angemessen damit befasst haben, wie dies an einem Ort wie Indien oder einem ziemlich freien Land aussehen wird“, sagt sie . „Ich habe das Gefühl, als hätten sie die Sache in den Sand gesetzt.“