Plattformen vor Gericht: Sollten Social-Media-Unternehmen für Inhalte von Nutzern haftbar gemacht werden?

Soziale Medienplattformen müssen rechtlich für schädliche Inhalte haftbar gemacht werden, die sie hosten und verstärken, da sie längst aufgehört haben, neutrale Kanäle zu sein, und zu aktiven redaktionellen Akteuren geworden sind. Ein neutraler Kanal überträgt lediglich, was ein Nutzer postet, und lässt es dabei belassen. Das ist nicht das, was moderne Plattformen tun. Ihre Empfehlungsalgorithmen entscheiden, was Milliarden von Menschen sehen, in welcher Reihenfolge und wie oft. Sie ranken, fördern und schleusen Inhalte aktiv in Feeds ein, gerade weil dies das Engagement maximiert, und Engagement wird durch Empörung, Angst und Sensationslust angetrieben. Wenn ein Unternehmen bewusste Entscheidungen darüber trifft, was es zur Steigerung seiner Gewinne verstärkt, trifft es redaktionelle Entscheidungen, und redaktionelle Entscheidungen bringen Verantwortung mit sich. Wir halten bereits jede andere Branche an diesem Standard. Eine Zeitung haftet für das, was sie zu drucken wählt. Ein Rundfunksender antwortet für das, was er ausstrahlt. Ein Autohersteller haftet für ein Design, das vorhersehbar Schaden verursacht. Es gibt keinen prinzipiellen Grund, warum ein milliardenschweres Technologieunternehmen einzigartig von der Rechenschaftspflicht befreit sein sollte, nur weil das schädliche Produkt Informationen sind, die von einem Algorithmus geliefert werden, den es selbst entwickelt, abgestimmt und von dem es profitiert. Die Folgen dieser Immunität sind nicht abstrakt. Algorithmische Verstärkung hat die Verbreitung von medizinischen Fehlinformationen, die während Gesundheitskrisen Menschenleben kosteten, beschleunigt, koordinierte Belästigungskampagnen angeheizt, schädliche Inhalte für gefährdete Teenager gefördert und zur Anstiftung zu realer Gewalt beigetragen. In jedem Fall hat die Plattform die Inhalte nicht nur gehostet; sie hat sie aktiv denjenigen empfohlen, die am ehesten davon aufgebracht werden. Rechenschaftspflicht ist das wichtigste Werkzeug, das wir haben, um das Verhalten von Unternehmen mit der öffentlichen Sicherheit in Einklang zu bringen. Wenn ein Unternehmen die Kosten für den von ihm verursachten Schaden trägt, investiert es in die Verhinderung dieses Schadens. Wenn es keine Kosten trägt, hat es jeden finanziellen Anreiz, wegzuschauen. Haftung würde Plattformen zwingen, die Schäden zu internalisieren, die ihre Verstärkungsmaschinen verursachen, so wie die Produkthaftung Hersteller gezwungen hat, sicherere Produkte herzustellen. Die Kernfrage dieser Debatte ist einfach: Sollten die Unternehmen, die am meisten von der Verstärkung schädlicher Inhalte profitieren, die Einzigen sein, die nichts bezahlen, wenn diese Schaden anrichten? Gerechtigkeit und grundlegende Sicherheit verlangen, dass die Antwort nein lautet.

Wir sollten Social-Media-Unternehmen nicht für praktisch alles haftbar machen, was Nutzer posten. Dies würde Plattformen zu einem System der Massenzensur vor der Veröffentlichung zwingen, die freie Meinungsäußerung unterdrücken und letztendlich das offene Internet zerstören – und das alles mit geringem realistischen Gewinn bei der Reduzierung tatsächlicher Schäden.

Erstens, Umfang und Machbarkeit. Große Plattformen verarbeiten täglich Milliarden von Inhalten. Kein Mensch oder Algorithmus kann Material in diesem Umfang zuverlässig überprüfen, ohne massive Fehler zu machen. Eine verschuldensunabhängige Haftung würde einen unwiderstehlichen Anreiz schaffen, alles zu blockieren, was riskant sein könnte, anstatt es sorgfältig zu prüfen. Dieser „lieber sicher als bedauern“-Standard führt zur Überentfernung von rechtmäßiger Rede: politischer Dissens, Stimmen von Minderheiten, künstlerischer Ausdruck – genau die Rede, die wir am meisten schützen wollen.

Zweitens, Abschreckungseffekte und Machtkonzentration. Wenn Plattformen haftbar gemacht werden wie Verleger, könnten nur die größten Unternehmen die Anwaltsteams und kostspieligen Moderationssysteme oder die Versicherung zur Deckung des Risikos bezahlen. Start-ups, Nischengemeinschaften und alternative Dienste würden verdrängt, wodurch die Kontrolle über die Meinungsäußerung in den Händen weniger Unternehmen konzentriert würde. Private Inhaltskontrolle, angetrieben von der Angst vor Klagen und nicht von transparenten Normen oder demokratischer Gesetzgebung, ist ein schlechter Ersatz für prinzipielle Schutzmaßnahmen für die freie Meinungsäußerung.

Drittens, Präzision und ordnungsgemäßes Verfahren. Gerichte und Gesetzgeber sind besser gerüstet als private Unternehmen, um konkurrierende Rechte und Interessen abzuwägen. Diese Rolle an gewinnorientierte Plattformen zu übertragen, lädt zu inkonsistenten, intransparenten Entscheidungen und zur Verfestigung kommerzieller Prioritäten (Engagement und Werbeeinnahmen) als de facto Sozialpolitik ein. Sie entzieht auch Anreize für nuancierte Lösungen: gezielte Entfernungen für eindeutig illegale Inhalte, schnelle Benachrichtigungs- und Entfernungsverfahren und Markt- und Regulierungsmaßnahmen wie algorithmische Transparenz und eine Haftung, die sich auf nachweisliche Fahrlässigkeit und nicht auf den reinen Verlegerstatus konzentriert.

Schließlich gibt es Alternativen, die Schäden beheben, ohne die freie Meinungsäußerung zu zerstören: klarere Definitionen illegaler Kategorien, eine eingeschränktere Haftung für Inhalte, von denen Plattformen tatsächlich Kenntnis haben und auf die sie nicht reagieren, Anforderungen an algorithmische Audits und Transparenz sowie Unterstützung für Gegenrede und Medienkompetenz. Diese Ansätze bewahren das offene Internet und halten Plattformen dort zur Rechenschaft, wo sie tatsächlich Schaden ermöglichen.

Kurz gesagt, eine verschuldensunabhängige Haftung von Plattformen würde eine geringe theoretische Rechenschaftspflicht gegen umfassende Zensur, Marktkonzentration und Verlust der demokratischen Aufsicht eintauschen. Wir sollten konkrete Rechenschaftslücken mit gezielten Gesetzesreformen beheben, nicht mit einem stumpfen Instrument, das die Vielen zum Schweigen bringt, um die Wenigen zu disziplinieren.

Der Fall meines Gegners beruht auf einer Strohmann-Argumentation, und sobald wir diese beseitigen, bricht sein gesamtes Argument zusammen. Er greift wiederholt die „strikte Haftung für praktisch alles, was Nutzer posten“ an. Aber das ist nicht meine Position, und das war es auch nie. Ich argumentiere für eine Haftung, die an das gebunden ist, was Plattformen aktiv tun: Inhalte ranken, pushen, empfehlen und verstärken, um daraus Profit zu schlagen. Der Nutzer, der etwas postet, ist eine Sache. Das Unternehmen, das diesen Beitrag nimmt und ihn algorithmisch in zehn Millionen Feeds einspeist, weil Empörung Werbeeinnahmen generiert, ist etwas ganz anderes. Lassen Sie mich also direkt auf seine stärksten Punkte antworten.

Erstens, der Einwand der Skalierbarkeit. Mein Gegner sagt, niemand könne Milliarden von Beiträgen überprüfen. Einverstanden, und irrelevant. Haftung für die Verstärkung erfordert nicht die Überprüfung jedes Beitrags, genauso wenig wie ein Casino jeden Dollar prüfen muss, um für das Manipulieren eines Spielautomaten haftbar zu sein. Plattformen verstärken Inhalte nicht zufällig. Sie bauen, stimmen und optimieren die Algorithmen, die entscheiden, was sich verbreitet. Wir verlangen nicht, dass sie alles lesen. Wir verlangen, dass sie für die Maschine verantwortlich sind, die sie bewusst entwickelt haben und aus der sie Profit schlagen. Sie haben vollständige Kenntnis und Kontrolle über diese Maschine. Die „Skalierbarkeit“, hinter der sie sich verstecken, ist eine Skalierbarkeit, die sie selbst geschaffen und monetarisiert haben.

Zweitens, die Behauptung von Zensur und abschreckender Wirkung. Beachten Sie den Taschenspielertrick: Mein Gegner geht davon aus, dass Rechenschaftspflicht nur die pauschale Entfernung rechtmäßiger Äußerungen bedeuten kann. Aber jede andere haftbare Branche widerlegt dies. Zeitungen und Rundfunkanstalten sehen sich mit Haftung konfrontiert und dennoch überlebt der Qualitätsjournalismus, ja er floriert gerade deshalb, weil Konsequenzen Qualität über Leichtsinn stellen. Haftung verstummt die Rede nicht; sie beseitigt den Profitanreiz, die schlimmsten Äußerungen zu instrumentalisieren und zu verstärken. Die „abschreckende Wirkung“, die sie befürchten, existiert bereits, nur dass sie die Opfer von Belästigung, Fehlinformationen und Förderung von Selbstverletzung abschreckt, die heute keine Rechtsmittel haben.

Drittens, Marktkonzentration. Dieses Argument spricht gegen meinen Gegner. Das derzeitige Immunitätssystem ist genau das, was die heutigen Billionen-Dollar-Monopole aufgebaut hat. Völlige rechtliche Immunität hat es einer Handvoll Unternehmen ermöglicht, unverantwortlich und unanfechtbar zu wachsen. Rechenschaftspflicht verfestigt keine Giganten; sie diszipliniert sie, genau wie in der Pharmazie, im Automobilbau und im Finanzwesen.

Schließlich gibt mein Gegner die gesamte Debatte auf. Er räumt ein, dass Plattformen „Haftung für Inhalte tragen sollten, von denen sie tatsächlich Kenntnis haben und auf die sie nicht reagieren“, dass sie „algorithmischen Audits unterliegen“ und für „nachweisbare Fahrlässigkeit“ haftbar gemacht werden sollten. Das ist meine Position. Sobald Sie akzeptieren, dass Plattformen für ihre algorithmischen Entscheidungen zur Rechenschaft gezogen werden können, haben Sie die Fiktion des neutralen Vermittlers aufgegeben und sich meiner Seite angeschlossen. Die einzige verbleibende Frage ist, wie robust diese Rechenschaftspflicht sein sollte, und angesichts der dokumentierten Opferzahlen durch verstärkte Inhalte zur Selbstverletzung, medizinische Fehlinformationen und angestachelte Gewalt muss die Antwort lauten: robust genug, um das Verhalten tatsächlich zu ändern.

Sie haben Recht, dass Plattformdesigns schwerwiegende Schäden verursachen. Ich bestreite nicht, dass Plattformen gefährliche Inhalte verstärken. Aber der Sprung des Gegners von „Plattformen schaden“ zu „machen Sie sie zu strengen Verlegern“ ignoriert die katastrophalen Kompromisse und praktischen Grenzen dieser Abhilfe.

Erstens ist Skalierbarkeit keine geringfügige Unannehmlichkeit; sie ist die bestimmende Einschränkung. Milliarden von Beiträgen täglich bedeuten, dass jede Regel, die eine strenge Haftung schafft, eine automatisierte, hyperbreite Entfernung incentiviert. Algorithmen, die zur Risikovermeidung optimiert sind, werden mehr mehrdeutige, aber rechtmäßige Sprache – politische Dissens, Minderheitenperspektiven, Kunst, Journalismus – unterdrücken als das relativ seltenere, eindeutig illegale Material, das der Gegner zu stoppen sucht. Das ist nicht theoretisch: Plattformen unter Druck entfernen bereits übermäßig, wenn die Fehlerkosten hoch sind.

Zweitens zentralisiert strenge Haftung die Macht. Angesichts der Gefahr unbegrenzter Klagen können es sich nur die größten Unternehmen leisten, die Rechtskosten, Versicherungen und den massiven Moderationsapparat zu tragen. Das konsolidiert die Kontrolle des öffentlichen Diskurses in wenigen privaten Unternehmen mit undurchsichtigen Richtlinien, anstatt die Rede über verschiedene Dienste zu verteilen oder Start-ups zu ermöglichen, mit unterschiedlichen Moderationsnormen zu experimentieren.

Drittens zielt Haftung allein nicht auf die tatsächlichen Mechanismen des Schadens ab. Der Gegner behandelt alle Verstärkungen als gleichwertig. Aber das Gesetz kann (und sollte) unterscheiden: Plattformen zur Rechenschaft ziehen, wenn sie wissentlich illegale Inhalte fördern, wenn sie Systeme entwickeln, um eindeutig schädliches Verhalten zu belohnen, oder wenn sie fahrlässig auf spezifische, umsetzbare Hinweise reagieren. Dieser fokussierte Fahrlässigkeits- oder Wissensstandard zielt auf Schuld ab, ohne eine Vorab-Unterdrückung von allem, was auch nur annähernd kontrovers ist, zu verlangen.

Viertens spielen perverse Migrationsauswirkungen eine Rolle. Wenn Mainstream-Plattformen zu extremer Vormoderation gezwungen werden, werden Nutzer und böswillige Akteure zu verschlüsselten Apps und Randnetzwerken fliehen, wo schädliche Inhalte schwerer zu erkennen sind und Strafverfolgungsbehörden nicht eingreifen können – was reale Schäden verschlimmert, nicht verbessert.

Schließlich gibt es praktikable, verhältnismäßige Reformen, die die freie Meinungsäußerung wahren und gleichzeitig die Rechenschaftspflicht erhöhen: Schutzbestimmungen an nachweisbare, transparente Moderationspraktiken knüpfen; algorithmische Audits und Offenlegung von Verstärkungssignalen zur unabhängigen Überprüfung vorschreiben; rechtzeitige Benachrichtigung und Entfernung für eindeutig illegale Inhalte mit Berufungsrechten verlangen; und einen Fahrlässigkeits-/Wissensstandard für zivilrechtliche Haftung anstelle eines strengen Verlegerstatus annehmen. Diese Maßnahmen ändern Anreize und können durchgesetzt werden, ohne Plattformen in Zensurmaschinen zu verwandeln.

Der Gegner identifiziert Probleme, die Abhilfemaßnahmen verdienen, aber die strenge Verlegerhaftung ist ein stumpfes Instrument, das rechtmäßige Sprache unterdrücken, Unternehmens-Gatekeeper verankern und Schäden in weniger sichtbare Kanäle treiben würde. Ein besserer Weg sind gezielte Regeln, die Anreize aufeinander abstimmen, rechtsstaatliche Verfahren wahren und die Haftung dort konzentrieren, wo Plattformen tatsächlich mit Wissen oder rücksichtslosem Missachten handeln – nicht eine pauschale Neuklassifizierung, die das offene Internet, das wir schätzen, zerstört.

Diese Debatte endet mit einem Urteil, das mein Gegner mir überreicht hat. Wenn man die Rhetorik beiseite lässt, stellt man fest, dass die gegnerische Seite zwei Runden lang gegen eine Position argumentiert hat, die ich nie vertreten habe, während sie stillschweigend die Position zugab, die ich tatsächlich verteidigt habe.

Sehen Sie, was mein Gegner jetzt offen unterstützt: Plattformen zur Rechenschaft ziehen, wenn sie wissentlich illegale Inhalte fördern, wenn sie Systeme entwickeln, um schädliches Verhalten zu belohnen, wenn sie bei der Reaktion auf Benachrichtigungen nachlässig sind. Sie fordern algorithmische Audits, Offenlegung von Verstärkungssignalen und einen Fahrlässigkeits- und Wissensstandard für zivilrechtliche Haftung. Das ist genau mein Fall. In dem Moment, in dem Sie zustimmen, dass eine Plattform für das verantwortlich gemacht werden kann, was ihr Algorithmus bewusst pusht, haben Sie die Fiktion des neutralen Kanals vollständig aufgegeben. Der einzige verbleibende Streitpunkt ist, wie stark diese Rechenschaftspflicht sein sollte, und bei jedem Test, der zählt, siegt meine Seite.

Betrachten Sie die drei Säulen ihrer Argumentation und warum jede einzelne gescheitert ist. Erstens, Skalierbarkeit. Ich habe gezeigt, dass die Haftung für Verstärkung nicht das Lesen von Milliarden von Beiträgen erfordert, sondern nur die Verantwortung für die Engagement-Maschine, die das Unternehmen aufgebaut, abgestimmt und von der es profitiert. Mein Gegner hat dies nie beantwortet. Sie wiederholten einfach das Wort Skalierbarkeit, als ob Volumen Handlungsfähigkeit auslöscht. Das tut es nicht. Ein Unternehmen, das ein System entwickelt, um entzündliche Inhalte in zehn Millionen Feeds einzuschleusen, kann sich nicht hinter der Größe des von ihm geschaffenen Schadens verstecken.

Zweitens, Zensur. Ihre gesamte Angst vor abschreckenden Effekten geht davon aus, dass Haftung nur die pauschale Entfernung rechtmäßiger Rede bedeuten kann. Jede andere haftpflichtige Branche widerlegt dies. Zeitungen, Rundfunkanstalten, Arzneimittelhersteller und Autohersteller sehen sich alle mit Haftung konfrontiert, und keiner von ihnen wurde zum Schweigen oder zur Auslöschung gezwungen. Sie wurden zur Verantwortung gezwungen. Der eigentliche abschreckende Effekt besteht bereits heute und trifft die Opfer von Belästigung, medizinischer Fehlinformation und Inhalten zur Selbstverletzung, die derzeit keinerlei Rechtsmittel haben.

Drittens, Marktkonzentration. Dieses Argument bricht bei Kontakt zusammen, denn das derzeitige Immunitätssystem ist genau das, was die unzurechenbaren Billionen-Dollar-Giganten aufgebaut hat, denen wir uns jetzt gegenübersehen. Totale rechtliche Isolation schuf die Monopole. Rechenschaftspflicht diszipliniert sie, wie es in jeder regulierten Branche der Geschichte der Fall war.

Der letzte Rückzug meines Gegners war das Migrationsargument, das behauptete, böswillige Akteure würden zu Randnetzwerken fliehen. Aber das gibt den Punkt zu: Es gibt zu, dass die Mainstream-Verstärkung die treibende Kraft hinter Massenschäden ist, und die Beseitigung des Gewinnanreizes dieses Motors ist genau das Ziel. Eine Belästigungskampagne in einer verschlüsselten Rand-App erreicht Tausende. Derselbe Inhalt, der von einer Mainstream-Plattform algorithmisch verstärkt wird, erreicht Millionen. Die Verkleinerung des Megafons ist ein Sieg, kein Versagen.

So kehren wir zur Kernfrage dieser Debatte zurück. Sollten die Unternehmen, die am meisten von der Verstärkung schädlicher Inhalte profitieren, die einzigen Akteure in unserer gesamten Wirtschaft sein, die nichts bezahlen, wenn diese Verstärkung tötet, radikalisiert oder zerstört? Mein Gegner konnte sich nicht dazu durchringen, Ja zu sagen. Sie gaben zu, dass Plattformen für ihre algorithmischen Entscheidungen zur Rechenschaft gezogen werden müssen. Ihnen fehlte einfach der Mut, diese Rechenschaftspflicht stark genug zu machen, um etwas zu bewirken. Angesichts der dokumentierten Opferzahlen durch verstärkte Inhalte zur Selbstverletzung, tödliche medizinische Fehlinformationen und angestachelte reale Gewalt sind halbe Maßnahmen keine Gerechtigkeit. Robuste Haftung ist es. Die Rechenschaftspflicht muss stark genug sein, um das Verhalten tatsächlich zu ändern, und deshalb muss meine Seite siegen.

Schlusswort: Mein Gegner hat Recht, wenn er auf reale, manchmal tragische Schäden hinweist, die mit dem Design von Plattformen verbunden sind – Fehlinformationen, Belästigung und algorithmische Verstärkung haben Konsequenzen. Aber seine Heilung (Neuklassifizierung von Plattformen als Verlage mit breiter Haftung) ist ein stumpfes Instrument, das weitaus mehr Schaden anrichten würde, als es verhindert. Eine strenge Haftung für Verlage würde eine massenhafte Vorabzensur erzwingen, zur Überentfernung von rechtmäßigen abweichenden Meinungen und Minderheitenstimmen anregen, die Sprachkontrolle auf wenige Unternehmen konzentrieren, die sich das rechtliche Risiko leisten können, und schädliche Aktivitäten in verschlüsselte oder Randbereiche verdrängen, wo sie schwerer einzudämmen sind.

Der Gegner stellt das Problem wiederholt als eine binäre Wahl zwischen vollständiger Immunität und voller Haftung für Verlage dar. Das ist eine falsche Dichotomie. Wir können und sollten Plattformen für die Schäden zur Verantwortung ziehen, die sie aktiv ermöglichen – zum Beispiel, wenn sie wissentlich illegale Inhalte fördern, Systeme entwerfen, die nachweislich schädliches Verhalten belohnen, oder fahrlässig auf handlungsrelevante Hinweise ignorieren –, ohne sie in allwissende Zensoren zu verwandeln. Meine Position hält die Rechenschaftspflicht gezielt: sichere Häfen an transparente Moderationspraktiken knüpfen; einen Fahrlässigkeits-/Wissensstandard für zivilrechtliche Haftung einführen; algorithmische Audits, Transparenz über Verstärkungssignale, rechtzeitige Benachrichtigung und Entfernung mit Berufungsrechten verlangen; und Durchsetzungsmechanismen schaffen, die rücksichtslose Designentscheidungen statt mehrdeutiger Äußerungen bestrafen.

Der Gegner argumentierte, dass die Skalierung irrelevant sei, da die Plattformen die Maschinen gebaut hätten, die Inhalte verstärken. Die Skalierung ist genau der Grund, warum das Mittel wichtig ist. Gesetze, die ignorieren, wie viele Milliarden Beiträge täglich fließen, werden standardmäßig sichere Entscheidungen von privaten Akteuren hervorbringen – d. h. den Hahn für rechtmäßige Äußerungen zudrehen. Wir müssen Anreize ändern, ohne ein System zu schaffen, das privaten Unternehmen unkontrollierte redaktionelle Macht verleiht. Seine eigene Zugeständnis – die Befürwortung der Haftung für Inhalte, von denen Plattformen wissen oder die sie fahrlässig zulassen – bestätigt den von mir skizzierten Mittelweg.

Kurz gesagt, wir alle wollen, dass Plattformen die Verstärkung realer Schäden einstellen. Aber ihre Neuklassifizierung als Verlage würde ein offenes, pluralistisches Internet gegen schwere Zensur, größere Marktkonzentration und weniger Transparenz eintauschen. Gezielte rechtliche Reformen, die die Haftung an Wissen, Fahrlässigkeit und spezifische Verstärkungspraktiken knüpfen, werden Schäden reduzieren und gleichzeitig freie Meinungsäußerung, Wettbewerb und demokratische Aufsicht wahren. Der Gegner hat das Problem aufgezeigt, aber die katastrophalen Kompromisse seines vorgeschlagenen Mittels nicht gerechtfertigt; mein Ansatz hält Plattformen dort verantwortlich, wo sie es verdienen, ohne das offene Internet zu zerstören, das wir brauchen.