試されるプラットフォーム：ソーシャルメディア企業はユーザーコンテンツに対して責任を負うべきか？

ソーシャルメディアプラットフォームは、ホストする有害コンテンツや増幅する有害コンテンツに対して法的な責任を負うべきです。なぜなら、それらはもはや中立的なパイプではなく、積極的に編集的な役割を果たす存在になっているからです。中立的な伝送路は、ユーザーが投稿したものをそのまま送信し、そのままにしておきます。現代のプラットフォームはそうではありません。それらのレコメンデーションアルゴリズムは、何十億もの人々が何を見るか、どのような順序で、どのくらいの頻度で見るかを決定します。エンゲージメントを最大化するために、コンテンツを積極的にランク付けし、ブーストし、フィードに注入していますが、エンゲージメントは怒り、恐怖、センセーショナリズムによって促進されます。企業が利益を増やすために何を増幅するかについて意図的な選択を行う場合、それは編集上の決定を下していることになり、編集上の決定には責任が伴います。私たちはすでに他のすべての産業にこの基準を適用しています。新聞は、印刷することを選択した内容に対して責任を負います。放送局は、放送した内容に対して責任を負います。自動車メーカーは、予見可能に損害を引き起こす設計に対して責任を負います。1兆ドル規模のテクノロジー企業が、アルゴリズムによって配信され、そのアルゴリズムを構築、調整し、利益を得ている有害な情報であるという理由だけで、説明責任から唯一免除されるべきであるという原則的な理由は存在しません。この免責の結果は抽象的なものではありません。アルゴリズムによる増幅は、公衆衛生危機中に人命を奪った医療に関する誤情報の拡散を測定可能に加速させ、組織的なハラスメントキャンペーンを煽り、脆弱なティーンエイジャーに自傷行為を助長するコンテンツを促進し、現実世界での暴力を扇動するのに役立ちました。これらの各ケースにおいて、プラットフォームは単にコンテンツをホストしただけでなく、それによって最も感情的になりやすい人々に積極的に推奨しました。説明責任は、企業の行動を公共の安全と一致させるために私たちが持つ最も強力なツールです。企業が生成する損害のコストを負担する場合、その損害を防ぐために投資します。コストを負担しない場合、目をそらすあらゆる金銭的インセンティブがあります。製造物責任法が製造業者に安全な製品を作ることを強制したように、責任を負わせることで、プラットフォームは増幅エンジンが引き起こす損害を内部化することを余儀なくされるでしょう。この議論の核心的な問いは単純です。有害なコンテンツを増幅することから最も利益を得ている企業が、それが損害を引き起こしたときに何も支払わない唯一の企業であるべきでしょうか？正義と基本的な安全は、その答えが「いいえ」であることを要求します。

ソーシャルメディア企業に、ユーザーが投稿するほぼ全てのコンテンツに対して厳格な法的責任を負わせるべきではありません。そのような措置は、プラットフォームに大規模な事前検閲体制を強いることになり、自由な表現を圧殺し、最終的にはオープンなインターネットを破壊することになるでしょう。そして、現実の損害を軽減する効果はほとんど期待できません。

第一に、規模と実現可能性です。主要なプラットフォームは、毎日数十億ものコンテンツを処理しています。人間であれアルゴリズムであれ、大規模なエラーを犯すことなく、その規模でコンテンツを確実に審査することは不可能です。厳格な責任を負わせれば、リスクのあるものは慎重に評価するのではなく、ブロックするという抗いがたいインセンティブが生まれます。この「安全策を取るに越したことはない」というデフォルト設定は、合法的な言論、すなわち政治的異議、少数派の声、芸術的表現といった、私たちが最も保護を重視する言論の過剰な削除につながります。

第二に、萎縮効果と権力の集中です。プラットフォームが発行者と同等の責任を負うことになれば、法務チームや高額なモデレーションシステム、あるいはリスクを負担するための保険を負担できるのは、最大手の企業だけになるでしょう。スタートアップ企業、ニッチなコミュニティ、代替サービスは市場から排除され、言論の統制は少数の企業に集中することになります。訴訟を恐れるあまり、透明性のある規範や民主的な法制定ではなく、私的なコンテンツ検閲が行われるようになれば、それは原則的な言論の自由の保護の不十分な代替手段となります。

第三に、正確性と適正手続きです。競合する権利や利益のバランスを取る能力においては、裁判所や立法者が民間企業よりも適しています。その役割を営利目的のプラットフォームに委ねることは、一貫性のない不透明な決定を招き、商業的な優先事項（エンゲージメントと広告収入）が事実上の社会政策として定着することを招きます。また、それは、明らかに違法なコンテンツに対する的を絞った削除、迅速な通知・削除プロセス、アルゴリズムの透明性や発行者としての厳格な地位ではなく、実証された過失に焦点を当てた責任といった、市場や規制による解決策のような、よりきめ細やかな解決策へのインセンティブを奪います。

最後に、自由な表現を破壊することなく、損害に対処するための代替策が存在します。例えば、違法なカテゴリの定義をより明確にする、プラットフォームが実際に認識していながら対応を怠ったコンテンツに対する責任を狭める、アルゴリズムの監査と透明性を要求する、カウンター・スピーチやメディアリテラシーを支援するといったことです。これらのアプローチは、プラットフォームが真に損害を助長している場合に責任を問いつつ、オープンなインターネットを維持します。

要するに、プラットフォームに厳格な責任を負わせることは、少々の理論的な説明責任と引き換えに、広範な検閲、市場の集中、民主的な監督の喪失をもたらすでしょう。私たちは、少数を懲らしめるために多数を沈黙させるような、鈍重な手段ではなく、的を絞った法的改革によって、具体的な説明責任のギャップを埋めるべきです。

相手方の主張は藁人形論法に基づいています。その藁人形を取り除けば、相手方の議論全体が崩壊します。相手方は「ユーザーが投稿するほぼ全てのコンテンツに対する厳格な責任」を繰り返し攻撃していますが、それは私の立場ではなく、かつて一度もそうではありませんでした。私は、プラットフォームが利益のために積極的に行っている、コンテンツのランク付け、ブースト、推奨、増幅といった行為に対する責任を主張しています。投稿するユーザーは一つの存在です。その投稿を、広告収益を最大化するためにアウトレイジ（激しい怒り）を煽ることで、1000万ものフィードにアルゴリズム的に注入する企業は全く別の存在です。それでは、相手方の最も強力な論点に直接お答えしましょう。

第一に、規模の問題です。相手方は、誰もが数十億もの投稿をレビューすることはできないと言います。同意します、そしてそれは無関係です。増幅に対する責任は、カジノがスロットマシンの不正操作に対する責任を負うために全てのドルを検査する必要がないのと同じように、全ての投稿をレビューする必要はありません。プラットフォームは、偶然にコンテンツを増幅させているわけではありません。プラットフォームは、何が拡散するかを決定するアルゴリズム自体を構築、調整、最適化しています。私たちは、プラットフォームに全てのコンテンツを読むことを求めているのではありません。私たちは、プラットフォームが意図的に設計し、そこから利益を得ている機械に対して責任を負うことを求めているのです。プラットフォームはその機械に対して完全な知識と制御力を持っています。「規模」という彼らが隠れ蓑にしているものは、彼らが作り出し、収益化した規模なのです。

第二に、検閲と萎縮効果の主張です。手品に注意してください。相手方は、説明責任は合法的な言論の全面的な削除しか意味しないと仮定しています。しかし、責任を負う他の全ての産業がこれを否定しています。新聞社や放送局は責任を負っていますが、それでも健全なジャーナリズムは存続しています。事実、結果が軽率さよりも質を要求するため、むしろ繁栄しています。責任は言論を沈黙させるのではなく、最悪の言論を武器化し、増幅させることへの利益誘導を排除します。彼らが恐れる「萎縮効果」は既に存在しており、それは今日、救済策を持たないハラスメント、偽情報、自己危害促進の被害者を萎縮させているのです。

第三に、市場の集中です。この議論は相手方に不利に働きます。現在の免責制度こそが、今日の兆ドル規模の独占企業を生み出したのです。完全な法的保護は、少数の企業が説明責任を問われず、挑戦されることなく成長することを可能にしました。説明責任は巨大企業を固定化するのではなく、製薬、自動車、金融でそうであったように、それらを規律づけるのです。

最後に、相手方は議論全体を譲歩しています。相手方は、プラットフォームが「実際の知識を持ちながら対応を怠ったコンテンツに対する責任」を負い、「アルゴリズム監査」の対象となり、「明白な過失」に対して説明責任を果たすべきだと認めています。それが私の立場です。プラットフォームがアルゴリズムの選択に対して説明責任を負うことができると認めれば、あなたは中立的な伝達経路という虚構を捨て、私の側に立つことになります。残された唯一の問題は、その説明責任がどれほど強固であるべきかということです。増幅された自己危害コンテンツ、医療偽情報、扇動された暴力による多数の死者が出ていることが文書化されていることを考えると、その答えは、行動を実際に変えるのに十分なほど強固であるべきです。

プラットフォームの設計によって引き起こされる深刻な被害を指摘されたのは、もっともです。プラットフォームが危険なコンテンツを増幅させることは否定しません。しかし、「プラットフォームは害を及ぼす」という前提から、「プラットフォームを厳格な出版者とする」という結論への飛躍は、その解決策がもたらす壊滅的なトレードオフと実践的な限界を無視しています。

第一に、規模は些細な不便ではなく、プラットフォームを定義する制約です。毎日数十億もの投稿があるため、厳格な責任を生じさせるいかなる規則も、自動化された、過度に広範な削除を奨励することになります。リスク回避に最適化されたアルゴリズムは、相手が止めようとしている、比較的まれで明白に違法なコンテンツよりも、曖昧だが合法的な言論――政治的異議、少数派の視点、芸術、ジャーナリズム――をはるかに多く抑制するでしょう。これは理論上の話ではありません。すでに圧力を受けているプラットフォームは、エラーコストが高い場合に過剰な削除を行っています。

第二に、厳格な責任は権力を集中させます。無限の訴訟に直面した場合、最大の企業だけが訴訟費用、保険、および厳格なモデレーション体制を負担する余裕があります。それは、公の言論の統制を、不透明なポリシーを持つ少数の民間企業に集中させることになり、言論を多様なサービスに分散させたり、スタートアップが異なるモデレーション規範を試したりすることを妨げます。

第三に、責任だけでは、被害の真のメカニズムを標的とできません。相手は、すべての増幅を同等に扱っています。しかし、法律は区別することができます（そして区別すべきです）。プラットフォームが意図的に違法コンテンツを宣伝する場合、明らかに有害な行動を報酬とするシステムを設計した場合、または特定の、実行可能な通知に不注意であった場合に、プラットフォームに責任を負わせることができます。この焦点を絞った過失または故意の基準は、あらゆる点で論争の的となる可能性のあるものをすべて事前の抑制なしに、有罪性を標的とします。

第四に、逆効果の移行効果が重要です。主流のプラットフォームが極端な事前モデレーションを強いられた場合、ユーザーや悪意のあるアクターは、暗号化されたアプリや、有害なコンテンツの検出がより困難で、法執行機関が介入できない辺境のネットワークに逃げ込むでしょう。これにより、実際の被害は改善されるどころか、悪化します。

最後に、表現の自由を維持しつつ、説明責任を高めるための、実践可能で比例した改革があります。安全な港の条件として、実証可能で透明性のあるモデレーション慣行を要求すること。アルゴリズムの監査と増幅信号の開示を義務付け、独立したレビューを可能にすること。明確に違法なコンテンツに対するタイムリーな通知と削除を要求し、異議申し立ての権利を付与すること。そして、厳格な出版者の地位ではなく、民事責任のための過失/故意の基準を採用することです。これらの措置は、インセンティブを変え、プラットフォームを検閲マシンに変えることなく実施できます。

相手は救済に値する問題を特定していますが、厳格な出版者責任は、合法的な言論を抑制し、企業のゲートキーパーを強化し、被害をより見えにくいチャネルに追いやる、鈍重な道具です。より良い道は、インセンティブを一致させ、適正手続きを維持し、プラットフォームが実際に故意または無謀な無視をもって行動した場合に責任を集中させる、焦点を絞った規則です。私たちが大切にしているオープンインターネットを破壊するような、全面的な再分類ではありません。

この討論は、相手方が私に突きつけた評決をもって終結します。レトリックを取り除けば、相手方は私が一度も取らなかった立場に対して2ターンを費やして議論し、私が実際に擁護した立場については静かに譲歩していたことがわかります。

私の相手方が今や公然と支持していることを考えてみてください。プラットフォームが違法コンテンツを意図的に促進した場合、有害な行動を助長するようにシステムを設計した場合、通知への対応を怠った場合に、プラットフォームに責任を負わせることです。彼らはアルゴリズム監査、増幅信号の開示、民事責任のための過失・認識基準を要求しています。それはまさに私の主張するところです。プラットフォームがそのアルゴリズムによって意図的にブーストされたものに対して責任を負うことができると同意したその瞬間、あなたは中立的な伝達媒体という虚構を完全に放棄したことになります。残る唯一の論点は、その説明責任がどれほど強力であるべきかということであり、重要なあらゆるテストにおいて、私の側が勝利します。

彼らの議論の3つの柱と、それぞれの柱がなぜ失敗したのかを考えてみてください。第一に、規模です。増幅に対する責任は、数十億もの投稿を読む必要はなく、企業が構築し、調整し、利益を得ているエンゲージメントマシンに対する責任だけでよいことを示しました。私の相手方はこれに決して答えませんでした。彼らは単に「規模」という言葉を繰り返しただけで、あたかも音量が主体性を消し去るかのように言いました。それは違います。1000万のフィードに過激なコンテンツを注入するようにシステムを設計した企業は、それが製造した損害の大きさをもって隠れることはできません。

第二に、検閲です。彼らの検閲による萎縮効果への懸念はすべて、説明責任が合法的な言論の全面的な削除を意味する可能性があるという仮定に基づいています。他のあらゆる責任を負う産業がこれを反証しています。新聞社、放送局、製薬会社、自動車メーカーはすべて責任に直面していますが、そのどれもが沈黙や消滅を強いられたわけではありません。彼らは責任を負うことを強いられたのです。真の萎縮効果はすでに今日存在しており、それは嫌がらせ、医療に関する誤情報、そして自己危害コンテンツの犠牲者に及んでおり、彼らは現在、何の救済策もありません。

第三に、市場集中です。この議論は接触した瞬間に崩壊します。なぜなら、現在の免責制度こそが、私たちが今直面している説明責任のない兆ドル規模の巨大企業を築き上げたものだからです。完全な法的保護が独占を生み出しました。説明責任は、歴史上のあらゆる規制産業がそうであったように、それらを規律します。

私の相手方の最後の逃げ口上は、悪意のあるアクターが悪質なネットワークに逃亡するという移行論でした。しかし、それは論点を認めることになります。それは、主流の増幅が大規模な損害の原動力であることを認め、その原動力の利益インセンティブを排除することがまさに目標であると認めることになります。暗号化された辺境のアプリでの嫌がらせキャンペーンは数千人に達します。同じコンテンツが主流プラットフォームによってアルゴリズム的に増幅されると、数百万人に達します。メガホンを縮小することは失敗ではなく、勝利です。

したがって、この討論の中心にある問いに戻りましょう。有害なコンテンツを増幅することから最も多く利益を得ている企業が、その増幅が殺害し、過激化させ、破壊するときに何も支払わない経済の唯一の主体であるべきでしょうか。私の相手方は、イエスと言う勇気がありませんでした。彼らは、プラットフォームがアルゴリズムの選択に対して責任を負わなければならないことを認めました。彼らは、その説明責任を意味のあるものにするほど強力にする勇気が欠けていただけです。増幅された自己危害コンテンツ、致命的な医療誤情報、そして現実世界での暴力扇動から生じたとされる多数の死傷者を考えると、中途半端な措置は正義ではありません。強力な責任こそが正義です。説明責任は、実際に行動を変えるのに十分なほど強力でなければならず、だからこそ私の側が勝利しなければならないのです。

結び：相手方が、プラットフォームの設計に起因する、誤情報、ハラスメント、アルゴリズムによる増幅といった、現実的で時には悲劇的な被害を指摘している点は正しい。しかし、その治療法（プラットフォームを広範な責任を負う発行者として再分類すること）は、防ぐよりもはるかに大きな損害をもたらす鈍器である。厳格な発行者責任は、 mass pre‑publication censorship を強要し、合法的な異議や少数派の意見の過剰な削除を奨励し、法的リスクを負担できる少数の企業に言論統制を集中させ、そして検知・軽減がより困難な暗号化された、あるいは辺境の空間に有害な活動を押しやるだろう。

相手方は繰り返し、問題を完全な免責と完全な発行者責任の二者択一として提示している。それは偽りの二分法である。我々は、プラットフォームが積極的に助長する被害に対して責任を負わせることができるし、負わせるべきである――例えば、違法なコンテンツを意図的に宣伝する場合、実証済みの有害な行動を報酬とするシステムを設計する場合、あるいは実行可能な通知を過失により無視する場合――それらを全知全能の検閲者に変えることなく。私の立場は、説明責任を的確に保つ：透明性のあるモデレーション慣行にセーフハーバーを条件付ける；民事責任に対して過失／認識基準を採用する；アルゴリズム監査、増幅シグナルに関する透明性、異議申し立て権付きのタイムリーな通知・削除を要求する；そして曖昧な言論ではなく、無謀な設計上の選択を罰する執行メカニズムを創設する。

相手方は、プラットフォームがコンテンツを増幅する機械を構築したのだから、規模は無関係だと主張した。規模こそが、その救済策が重要である理由である。毎日の投稿数が数十億に達する現状を無視する法律は、私的行為者によるデフォルトで安全な選択――すなわち、合法的な言論の蛇口を閉める――を生み出すだろう。我々は、私企業に検閲の権限を無制限に与えるシステムを創設することなく、インセンティブを変える必要がある。相手方自身の譲歩――知っている、あるいは過失により許容しているコンテンツに対して責任を負わせることを支持すること――は、私が概説した中間的な道筋を正当化するものである。

要するに、我々は皆、プラットフォームが現実の被害の増幅を止めることを望んでいる。しかし、それらを発行者として再分類することは、オープンで多元的なインターネットを、重い検閲、より大きな市場集中、そしてより少ない透明性と引き換えにするだろう。責任を知覚、過失、そして特定の増幅慣行に結びつける、的確な法的改革は、自由な表現、競争、そして民主的な監督を維持しながら、被害を軽減するだろう。相手方は問題を示したが、その提案された救済策の壊滅的なトレードオフを正当化できなかった。私の方法は、我々が必要とするオープンなインターネットを破壊することなく、プラットフォームが責任を負うべきところで責任を負わせるものである。