»Supreme Court« oder Feigenblatt? (Teil 1)

Ganz freiwillig war die Entscheidung von Facebook nicht: Der öffentliche Druck, die internen Hausregeln einer breiten gesellschaftlichen Debatte zu stellen, wuchs in den vergangenen Jahren stetig an. Nun hat das größte soziale Netzwerk der Welt ein Oversight Board eingerichtet: ein Privatgericht, das in letzter Instanz verbindlich über die Rechtmäßigkeit der Löschung bestimmter Inhalte der Gemeinschaftsstandards und der Menschenrechte zu entscheiden hat und nichtbindende Empfehlungen zu Facebooks Hausregeln (also AGBs) abgeben kann. Das Oversight Board ist kein echtes Gericht und wird nur wenige von Facebooks Millionen Entscheidungen sichten – aber Gewicht hat es dennoch.

Was macht das Board? Als erste private Einrichtung dieser Art entscheidet eine Gruppe gut bezahlter Expert*innen, darunter eine Nobelpreisträgerin, Professor*innen, eine ehemalige Ministerpräsidentin sowie ein ehemaliger Chefredakteur einer großen englischen Zeitung, über die Frage, ob einzelne von Facebook gelöschte Inhalte wieder online gehen sollten (bald darf es dann auch über die Löschung bestimmter Inhalte entscheiden). Dabei geht es nicht um Inhalte, die nach nationalem Recht entfernt werden mussten, sondern die anhand der privaten Regeln Facebooks, der sogenannten Gemeinschaftsstandards, gelöscht wurden. Das Board tritt damit nicht in Wettbewerb mit nationalen Gerichten. Richtig repräsentativ für die fast drei Milliarden Nutzer*innen ist es zwar nicht (Akademiker*innen, Jurist*innen und Menschen aus dem Westen sind überproportional stark präsent); offener und inklusiver als Facebooks bisheriger Ansatz, die Regeln (nach Konsultationen mit externen Stakeholdern) selbst zu entwickeln und zu interpretieren, ist die Arbeitsweise des Boards aber auf jeden Fall.

Doch wie unabhängig ist das Gremium überhaupt? Facebook hat mit mehr als 100 Millionen Euro Grundfinanzierung eine Treuhandinstitution eingerichtet, die das Board finanziert. Zwar hat Facebook selbst die ersten Mitglieder ausgesucht, aber die weiteren wurden dann von diesen selbst, also ohne Facebooks Beteiligung, ausgewählt. Das Standing der Mitglieder und der genaue Blick, den die Welt auf ihre Arbeit wirft, sollten auch sicherstellen, dass direkte Interventionen unwahrscheinlich sind. (Boardmitglieder berichten auch, dass sie Facebook-Mitarbeiter*innen, die bei den ersten Sitzungen noch dabei waren, schnell gebeten haben, nicht mehr zu kommen).

Zu Recht kann man fragen, ob Facebook sich mit dem Gremium lediglich in Einzelfällen öffentlichkeitswirksam einen Anschein von Legitimität geben will, während substanzielle systematische Änderungen ausbleiben. Dies mag zwar so sein, doch die Intention bestimmt nicht das Ergebnis. Das Gremium kann – vermittelt über Einzelfallentscheidungen, aber viel stärker noch über die nichtbindenden Empfehlungen – eine aktive Rolle in der Behebung systemischer Mängel des Ordnungssystems des Unternehmens für sich definieren. Aus Sicht des Unternehmens ist das Projekt damit ein riskantes Spiel mit institutionellem Feuer. Einen Bruch mit dem Oversight Board (oder eine Missachtung seiner Entscheidungen) kann Facebook angesichts des drohenden PR-Desasters jedenfalls nicht wollen.

Die ersten Entscheidungen zeigen eine erfreuliche Bereitschaft der Boardmitglieder nicht nur gegen Facebook zu entscheiden, sondern vor allem ihr eigenes Mandat selbst und im Interesse der Nutzer*innen zu definieren: Nein, sagte das Board, Facebook könne durch Wiedereinstellung einzelner Inhalte dem Board Fälle nicht einfach wieder wegnehmen, wenn diese wichtige generelle Fragen aufwerfen. Nein, sagte das Board, die anwendbaren Regeln, zumal für Desinformation, seien nicht klar genug. Nein, sagte das Board, eine Prüfung nach den Gemeinschaftsstandards und den Werten von Facebook reiche nicht aus und ging zu einer Analyse nach internationalen Menschenrechtsnormen über, die es in Anschlag bringt, weil Facebook sich zu den UN-Leitprinzipien für Wirtschaft und Menschenrechten bekannt hat (und die besagen, dass außergerichtliche Beschwerdemechanismen nun einmal auf Grundlage international anerkannter Menschenrechte entscheiden sollen).

Damit kehrt das Board Facebooks traditionelle Normenordnung – 1. was Mark Zuckerberg sagt, 2. Facebooks Werte wie Voice (also die Maximierung von Meinungsäußerungen), 3. die AGBs, und erst 4. die Menschenrechte – einfach um. Das ist schon fast revolutionär. Ebenso wichtig ist der normative Weitblick des Boards: Natürlich, so urteilen die Mitglieder, untersuche man, wie Facebook seine Algorithmen einsetzt und wie künstliche Intelligenz bei der Moderation der Inhalte eingesetzt wird. Wie das Board schreibt: Facebooks Regeln sind in automatisierte Inhaltskontrollmechanismen (die Algorithmen) übersetzt und sind nur in einer Gesamtschau zu bewerten. Die Regeln und ihre Durchsetzung müssen gemeinsam auf Menschenrechtskonformität gecheckt werden.

Kritiker*innen fragen oft, wieviel Einfluss das Board auf die Zukunft der Inhaltemoderation auf Facebook haben kann. Gleich vorweg: So einflussreich wie ein Supreme Court, ein oberstes Gericht, wie Mark Zuckerberg das Gremium einmal bezeichnet hat, kann das Board natürlich nicht werden. Doch gerade hier liegt die Crux: Die Wirkung des Boards hängt nicht so sehr davon ab, wie Facebook mit den Einzelentscheidungen umgeht. Ein Post mehr oder weniger ist nicht entscheidend. Wichtig ist vielmehr, wie Facebook auf die unverbindlichen Empfehlungen der Expert*innen zu den Hausregeln reagiert.

Hier zeigt sich auch, warum das Board eine gute Idee ist: Facebook gab Anfang März elf Zusagen als Reaktion auf die Empfehlungen des Boards bekannt. Natürlich lässt sich mit Recht fragen, inwieweit die nun vorgenommenen Änderungen in der Moderationspraxis kausal auf die Entscheidungen des Boards zurückzuführen sind oder nicht schon lange in Planung waren. Schlussendlich ist das aber nicht entscheidend. Fragen wir uns: Ist die Moderationspraxis von Facebook mit dem Oversight Board schlechter als vorher? Keinesfalls. Ist das Board perfekt? Sicher nicht. Aber das Beste darf nicht Feind des einigermaßen Guten sein. Und einigermaßen gut ist das Board jedenfalls, wie sowohl seine ersten Entscheidungen als auch Facebooks Reaktion darauf zeigen.

MATTHIAS C. KETTEMANN, LL.M. (Harvard), ist Forschungsprogrammleiter am Leibniz-Institut für Medienforschung | Hans-Bredow-Institut.