Hannover. Stellen Sie sich vor, Sie öffnen Instagram, Tiktok oder Facebook, scrollen durch Ihren Newsfeed und sehen dann dort Folgendes: Ein Enthauptungsvideo der Terrorgruppe IS, Holocaustleugnungen von Neonazis, ein bisschen Hardcore-Pornografie, Livestreams von Amokläufen inklusive aller blutiger Details sowie ein Hassposting nach dem anderen.

Klingt utopisch? Mitnichten: Neue Pläne im US-Bundesstaat Texas machen genau dies zu einem möglichen Zukunftsszenario.

Mehr zum Thema

 

Mehr Geld für Creators

Wie Youtube Tiktok die Influencer abjagen will

Neues Gesetz löst Panik aus

Konkret geht es um ein Social-Media-Gesetz mit dem Namen House Bill 20, das im Bundesstaat schon länger geplant ist, bislang jedoch von Gerichten blockiert wurde. Das Gesetz soll es Einzelpersonen oder der Generalstaatsanwaltschaft von Texas ermöglichen, Social-Media-Plattformen mit mehr als 50 Millionen monatlichen Nutzern in den Vereinigten Staaten zu verklagen, wenn diese politische Standpunkte löschen, verstecken oder anderweitig abwerten.

Inzwischen ist genau dieses Szenario in greifbare Nähe gerückt: Mitte September hob ein Berufungsgericht für den fünften Bezirk die Anordnung eines Untergerichts auf. Nun dürfte der Fall wohl vor dem Supreme Court landen, dem Obersten Gerichtshof der USA. Wie dieser entscheiden wird? Ungewiss.

In der Social-Media-Branche lösen die Pläne Panik aus – denn die Tragweite des Gesetzes dürfte weitaus größer sein, als es zunächst klingen mag. Grob gesagt müssten große Social-Media-Plattformen künftig nahezu alle erdenklichen Beiträge durchgehen lassen, weil sie sonst Gefahr liefen, von Nutzerinnen und Nutzern verklagt zu werden. Und nicht nur das: Sie müssten diesen Inhalten sogar eine „gleichwertige Sichtbarkeit“ zu allen anderen Inhalten garantieren.

Freie Fahrt für Gewaltvideos

Der CNN-Journalist Brian Fung hatte bereits vor einigen Monaten in einer Analyse aufgedröselt, was das wohl bedeuten würde. Große Plattformen müssten etwa ihre Algorithmen ausschalten und Beiträge künftig nur noch in zeitlicher Reihenfolge anzeigen, um niemanden zu benachteiligen – das wiederum dürfte das Nutzungserlebnis der Plattformen aber stark einschränken und ihr Geschäftsmodell bedrohen.

Newsfeeds der Plattformen dürften künftig wohl aussehen wie ein E-Mail-Postfach ohne Spamfilter, mutmaßt der Autor. Ein wilder Wust aus Spam, Erotik-Content oder Hasspostings, der allen anderen Postings gleichgestellt sein müsste – im Sinne der freien Meinungsäußerung. Auch geschmacklose oder gar gefährliche Inhalte dürften nach dieser Logik nicht gelöscht werden. Das mache den Weg frei etwa für Gewaltvideos jeder Art.

Um ein Beispiel zu nennen: Bis zum Jahr 2014 fanden sich auf der Plattform Twitter mindestens 46.000 Konten der Terrormiliz IS, über die gewalttätige Inhalte veröffentlicht wurden. Das geht aus einem Bericht der Denkfabrik Brookings Institution hervor. Zugleich wurde die Plattform genutzt, um neue Mitglieder für den Islamischen Staat zu rekrutieren und zu sammeln. All das nahm nur deshalb ein Ende, weil sich Twitter entschied, IS-Inhalte künftig gänzlich von der Plattform zu verbannen. Das wäre nach dem neuen Gesetz so nicht mehr möglich.

Mehr zum Thema

 

Bayerischer Vize-Ministerpräsident

Lobt sich Hubert Aiwanger auf Twitter selbst? Beitrag des Freie-Wähler-Chefs sorgt für Wirbel

Steht die Zukunft des Internets auf dem Spiel?

Fung geht aber noch einen Schritt weiter: Auch die rein zeitlich sortierte Darstellung von Inhalten dürfte die Plattformen wohl nicht vor Klagen schützen. Schließlich könnten sich auch dadurch Nutzerinnen und Nutzer benachteiligt fühlen, weil ihre Inhalte weniger gesehen werden – etwa, weil sie in dem Spam-Stream untergehen. „In einer solchen Welt könnte Facebook verklagt werden, egal was es tut“, schreibt Fung.

Laut Mike Masnick, Gründer der Tech-Website Techdirt, wäre es dem Gesetz zufolge sogar illegal, Wikipedia-Artikel zu editieren – das könne der jeweilige Autor des Artikels dann als Zensur werten, sagt Masnick dem Magazin „The Atlantic“. Das gleiche könne für Foren gelten wie etwa Reddit oder Discord, in denen Moderatoren Beiträge überprüfen und gegebenenfalls löschen. Die Plattformen bestünden aus Zehntausenden privaten Chatrooms – eine Durchsetzung des Gesetzes sei hier nahezu unmöglich.

Laut dem „The Atlantic“-Artikel stehe angesichts der Pläne nichts weniger als die Zukunft der Funktionsweise des Internets auf dem Spiel. Es habe dem Internet „sehr gutgetan“, dass Social-Media-Plattformen ihren „Garten aufräumen“, sagt etwa der Anwalt Dan Novack dem Magazin. Plattformen könnten bestimmen, ob sie eine familienfreundliche Community oder eine ausgefallene und chaotische sein wollen. Genau das mache das Internet nützlich, sagt Masnick.

Dass nun Regierungen entscheiden wollten, wie Plattformbetreiber mit ihrer Community umgehen sollen, klinge wie eine „grundsätzlich andere Vorstellung vom Internet“.

Mehr zum Thema

 

Wegen britischer Sanktionen

Apple nimmt russisches Facebook-Pendant VKontakte aus dem App Store

Trump-Sperre ist Auslöser

Doch wie konnte es überhaupt zu einem solchen Gesetz kommen? Mitunter dürfte wohl die Twitter-Sperre des früheren US-Präsidenten Donald Trump im Januar 2021 ein Auslöser dafür gewesen sein. Konservative in den USA echauffieren sich seit Längerem darüber, dass Plattformen Beiträge löschen oder ganze Accounts offline nehmen, weil sie gegen die Regeln der Social-Media-Plattformen verstoßen hatten.

Donald Trump: US-Justizministerium darf streng geheime Dokumente weiter auswerten

Der Ex-Präsident hat versucht, FBI-Ermittlungen gegen ihn zu bremsen. Nun entschied ein Berufungsgericht: Das Justizministerium darf weitermachen.

© Quelle: dpa

Die Plattformen stehen seither in der Konfliktlinie zwischen Demokraten und Republikanern – und geraten politisch immer weiter unter Druck. Während die einen Facebook, Twitter und Youtube auffordern, strittige Beiträge seltener zu entfernen, drängen die anderen darauf, beim Löschen hasserfüllter Inhalte deutlich strikter vorzugehen.

Bei der Debatte geht es auch um die Frage, welche Rolle Social-Media-Plattformen überhaupt im Internet einnehmen. Sind es Medien wie etwa Zeitungen oder Fernsehsender, die frei entscheiden können, was sie veröffentlichen und was nicht? Oder gehören sie nicht vielmehr inzwischen zur Infrastruktur des Internets, wie etwa Telefonnetzbetreiber, die alle Inhalte gleichermaßen durchlassen und gleichbehandeln müssen?

Mehr zum Thema

 

Meinungsmacher und Werbegesichter

Wandel in Social Media: Influencer verlieren laut einer Umfrage an Glaubwürdigkeit

Florida scheitert mit Gesetz

Der traditionell konservative Bundesstaat Texas will nun für klare Verhältnisse sorgen – und ist dabei nicht allein. Auch in Florida sollte in diesem Jahr ein ganz ähnliches Gesetz in Kraft treten, das Plattformen an der Moderation von Inhalten hindern soll. Hier jedoch scheiterte der Versuch vorerst. Ein Gericht stoppte die Pläne im Frühjahr dieses Jahres und argumentierte, dass dies nicht mit der US-Verfassung in Einklang zu bringen sei. Auch Unternehmen wie Facebook und Twitter hätten ein Recht auf Meinungsäußerung und dürfen dies ausüben, indem sie bestimmte Inhalte nicht auf ihrer Plattform haben wollen.

Auch an der konkreten Umsetzung des Gesetztes hatten der Richter Zweifel, wie „The Verge“ berichtet. Ein solches Gesetz würde schließlich bedeuten, dass etwa Livestreams von Amokläufen nicht mehr gelöscht werden dürften. Sogar Kinderplattformen wie etwa Youtube-Kids hätten dann keine Handhabe mehr, wenn Nutzerinnen und Nutzer dort künftig Softcore-Pornos hochladen würden.

Wie es in Texas weitergeht, steht noch in den Sternen. Die Chance, dass das Gesetz genau so umgesetzt wird, besteht aber. Der konservative Supreme-Court-Richter Clarence Thomas hatte die Plattformen bereits in vergangenen Fällen als eine Art Netzbetreiber bezeichnet. Wie die „Washington Post“ berichtet, bereiten sich die großen Tech-Firmen im Silicon Valley bereits auf das Worst-Case-Szenario vor.

Mehr zum Thema

 

Maßvoller Umgang mit digitalen Medien

„Jomo“: von der Freude, etwas zu verpassen

Was die Plattformen nun planen

Carl Szabo, Vizepräsident und Chefsyndikus von Netchoice, der Lobbygruppe von Technologieunternehmen, die das texanische Gesetz angefochten hat, erklärte der Zeitung, dass die Plattformen derzeit mehrere Szenarien durchspielen würden. So wäre es beispielsweise möglich, dass die Netzwerke ihre Dienste in Texas komplett einstellen.

Diese Taktik könnte allerdings auch mit Schwierigkeiten verbunden sein, wie CNN-Journalist Brian Fung schon im Frühjahr zu bedenken gab. In dem texanischen Gesetz stehe demnach, dass die Plattformen Texanerinnen und Texaner nicht aufgrund ihres geografischen Standortes diskriminieren dürften. Theoretisch könnte jemand Facebook oder Twitter schon deshalb verklagen, weil es sich aus Texas zurückzieht.

Eine andere Möglichkeit: Die Plattformen könnten sich an das texanische Gesetz halten, künftig aber Pop-up-Bildschirme vor dem Besuch der eigenen Seite einblenden. Diese weisen dann darauf hin, dass Nutzerinnen und Nutzer möglicherweise verstörende Inhalte zu Gesicht bekommen – verbunden mit der Möglichkeit, sich für eine moderierte Version der Seite zu entscheiden.

Mehr zum Thema

 

Russlands Krieg in der Ukraine

Vom Journalisten zum Soldaten – Andrii Bashtovyi postet von der Front

Mehr Moderatoren, mehr Regeln

Wie die „Washington Post“ berichtet, hätten einige Unternehmen auch darüber nachgedacht, das texanische Gesetz bis ins kleinste Detail zu befolgen – und auf Massenproteste aus der Bevölkerung zu warten. Das allerdings würde für die Plattformen wohl einem Todesstoß gleichkommen. Das Gesetz sei „unmöglich umsetzbar, rechtlich fragwürdig“ und würde die Plattformen „zig Millionen Nutzerinnen und Nutzer kosten“, wird Szabo zitiert.

Schon seit langem stehen Social-Media-Plattformen wegen der Moderation ihrer Inhalte unter Beschuss. In den vergangenen Jahren ging die Debatte aber vor allem in eine Richtung: Immer wieder gab es Kritik, die Netzwerke würden schlichtweg zu lasch mit fragwürdigen Inhalten umgehen. Als Reaktion darauf stellten der Meta-Konzern (Facebook, Instagram) aber auch Google mit seiner Plattform Youtube Zehntausende Moderatorinnen und Moderatoren ein, entwickelten spezielle Filtersoftware und Kriterien, wonach Inhalte ausgeblendet oder gelöscht werden.

In der Pandemie folgten weitere Regeln. So entschieden nahezu alle großen Netzwerke, Falschbehauptungen über Impfstoffe oder das Virus an sich von der eigenen Plattform zu entfernen. Als Wendepunkt der Debatte in den USA werden die Unruhen am Kapitol gewertet, woraufhin zunächst Twitter und später auch andere Plattformen den früheren US-Präsidenten Donald Trump verbannten. Trumps Verbot löste eine konservative Gegenreaktion aus, die zu den Gesetzen in Florida und Texas führte.

Mehr zum Thema

 

Tödlicher Angriff bei CSD

Verband kritisiert: Soziale Medien verstärken Queerfeindlichkeit und Gewalt

Kalifornien geht andere Wege

In demokratischen Staaten sieht die Lage derweil ganz anders aus. Im US-Bundesstaat Kalifornien etwa war erst vor einigen Wochen ein Gesetz mit völlig anderer Schlagrichtung erlassen worden. Es trägt den Namen AB-587 und legt fest, dass die Social-Media-Plattformen künftig dem Generalstaatsanwalt zweimal jährlich Bericht erstatten müssen. Die Berichte müssen auch Angaben umfassen, ob und wie die Plattform Inhalte definieren und moderiert.

Dazu gehören „Hassreden oder Rassismus“, „Extremismus oder Radikalisierung“, „Desinformation oder Fehlinformation“, Belästigung und „ausländische politische Einmischung“. Auch Details zur automatisierten Inhaltsmoderation müssen die Netzwerke berichten, ebenso wie oft Personen zum Entfernen markierte Inhalte angesehen haben und wie mit den markierten Inhalten umgegangen wurde.

Der Gouverneur Kaliforniens, Gavin Newsom, erklärte nach der Unterzeichnung des Gesetzes: „Kalifornien wird nicht tatenlos zusehen, wie die sozialen Medien als Waffen genutzt werden, um Hass und Desinformation zu verbreiten, die unsere Gemeinschaften und unsere Grundwerte als Land bedrohen. Die Kalifornier verdienen es zu wissen, wie diese Plattformen unseren öffentlichen Diskurs beeinflussen.“ Das Gesetz bringe die notwendige Transparenz und Rechenschaftspflicht. In Texas sieht man das offenbar ganz anders.