ソーシャルメディアの説明責任：プラットフォームはユーザーコンテンツに法的責任を負うべきか？

私たちが何を議論しているのかを明確にしましょう。それは、本棚に置かれた本のために図書館員が訴えられるべきかどうかではなく、数十億もの人々の目に毎秒コンテンツを選別、ランク付け、そして押し出すために特別に設計されたアルゴリズムを構築した企業が、その設計によって引き起こされる予見可能な損害に対して責任を負うべきかどうかです。この区別こそが、この訴訟の全てなのです。

今日のプラットフォームは中立的なパイプではありません。それらは、法的な名称以外では、あらゆる意味で編集者なのです。毎秒、アルゴリズムが1万人が次に何を見るかを決定し、その決定を一つのこと、つまりエンゲージメントのために最適化します。数十年にわたる社内調査、流出した文書、そして独立した研究は、すべて同じ発見に収束しています――怒り、恐怖、そして分断が最もエンゲージメントを高める感情であるため、アルゴリズムは最も扇動的なコンテンツを体系的に増幅します。これは、毎分数百万回、大規模に行われる編集上の選択です。新聞の人間編集者が、フロントページに何を掲載するかについて同様の選択をするとき、彼らは名誉毀損、扇動、そして損害に対して責任を負います。自動化され、はるかに大規模で収益性が高いという理由だけで、同じようなキュレーション判断を行う機械が免除されるべき正当な理由はありません。

これはユーザーの意見を罰することではありません――それは、それが測定可能な損害を引き起こしていると警告された後でも、その意見を利益のために増幅するという企業のビジネス上の決定を罰することです。アルゴリズムによって押し出されたコンテンツに関連するティーンエイジャーの自殺の連鎖、チェックされていない偽情報キャンペーンによって煽られた民族間の暴力、そしてプラットフォームが検出する手段を持っているにもかかわらず停止する法的インセンティブがない組織的な嫌がらせなどが含まれます。

責任を負うということは、プラットフォームが投稿される前にすべての投稿を事前に審査しなければならないという意味ではありません――その藁人形論は、通知と修正の義務や、単なるホスティングではなく、アルゴリズムによる増幅に特に関連付けられた責任など、どのように調整された責任体制が実際に機能するかを無視しています。それは、プラットフォームが、損害をブログ記事の謝罪で管理される広報問題として扱うのではなく、過失に対して実際にコストを負担するようになるということです。

現在、プラットフォームは、エンゲージメントを最大化する設計のコストを社会――メンタルヘルスクライシス、過激化、選挙に関する偽情報――に外部化する一方で、その同じ設計によって生成される広告収益の100％を享受しています。それは擁護できない非対称性です。法的責任は、単にプラットフォームがすでに下している選択のコストを内部化することを強制するだけです。それが、モデレーションに真剣なリソースを投資すること、バイラルコンテンツの出所を検証すること、または最も過激な素材に報酬を与えることを停止するためにアルゴリズムを再設計することを含むとしても、それは表現の自由にとっての災害ではありません――それは現代の公共広場の設計者に対する、とっくに遅れていた説明責任なのです。

意見表明 — 立場B:

ソーシャルメディアプラットフォームを法的にユーザーの発言に責任を負わせることは、良いことよりもはるかに多くの害をもたらすでしょう。その目標が、憎悪、偽情報、嫌がらせを減らすことであることは善意からくるものですが、プラットフォームを法的に発行者とみなすことは、過剰な削除を促し、最大手企業に管理を集中させ、競争とイノベーションを阻害し、最終的には思想の自由な交換を蝕むことになります。

第一に、責任は予測可能な萎縮効果を生み出します。訴訟のリスクに直面した企業は、リスクを回避するための最も安価で最速の方法、すなわち一律削除と積極的な事前審査を選択するでしょう。自動フィルターと保守的な人間のモデレーションは、有害なコンテンツとともに、正当で、議論を呼ぶ、あるいは少数派の意見を必然的に抑制します。その結果、より安全な社会ではなく、より狭い公共の言論空間が生まれます。

第二に、責任は既存勢力を強化します。大手のプラットフォームは、弁護士軍団、高額なコンプライアンスシステム、そして法的リスクそのものを負担する余裕があります。小規模なスタートアップ、ニッチなフォーラム、非営利の市民空間はそうはいきません。発行者と同等の責任を課すことは、参入障壁を引き上げ、少数の支配的な企業にさらなる権力を与えることになります。これは、改革者がしばしば望むこととは正反対です。

第三に、民間企業を事実上の言論規制機関に変えることは、民主的な統治にとって危険です。透明性の低いアルゴリズムと商業的インセンティブに導かれたテクノロジー企業ではなく、裁判所や議会が合法的な言論の限界を設定すべきです。責任を負わせることは、エンゲージメントと収益を優先する企業に公共政策を委託することになり、一貫性がなく、不透明な基準がユーザー間で不均一に執行されることになります。

第四に、法的不確実性とコンプライアンスコストは、建設的な解決策からリソースを奪うでしょう。プラットフォームは、モデレーションの質の向上、透明性、ユーザーコントロール、より強力な通知・削除プロセス、アルゴリズム監査、そして明白な違法行為に対する執行といった、的を絞った介入に投資するのではなく、訴訟回避に多額の費用を費やすことになるでしょう。これらは、鈍重な責任追及よりも、的を絞った規則や基準によって解決されるべき技術的および政策的な問題です。

最後に、言論を封じることなく、害に対処するためのより賢明な代替策があります。それは、違法コンテンツの定義を明確にすること、プラットフォームの透明性と監査可能性に関する執行可能な義務、検証された有害コンテンツのアルゴリズム的増幅を軽減する要件、そしてより安全なエコシステムを構築するための小規模競合他社への支援です。これらの措置は、オープンな対話を維持しつつ、何十億ものユーザーのあらゆる発言に対してではなく、設計上の選択に対してプラットフォームに責任を負わせます。

これらの理由から、プラットフォームにユーザーコンテンツに対する法的責任を負わせることは、言論の自由、競争、そして民主的な監督にとって悲劇となるでしょう。私たちは、現代の公共生活を支えるオープンで多元的なインターネットを保護しながら、害を減らすための、的を絞った、比例した改革を追求すべきです。

相手の4つの論点を見ていきましょう。なぜなら、それぞれが吟味すると崩壊するからです。

第一に、「萎縮効果」という議論は、プラットフォームが法的責任を負わされた場合に、あらゆるコンテンツを削除するだろうと仮定しています。しかし、これはプラットフォームがすでに大規模なコンテンツモデレーションを行っているという事実を無視しています。彼らは、間違いを犯しても法的コストがないため、それを悪く、一貫性のない方法で行っているだけです。単なるホスティングではなく、アルゴリズムによる増幅に関連付けられた過失に基づく責任基準は、完璧さを要求するものではなく、合理的な注意を要求するものです。医薬品、自動車、建設など、他のすべての産業は、リスク回避に陥ることなく、責任基準の下で運営されています。企業は調整するのであって、停止するのではありません。プラットフォームがリスク回避のために自社の製品を破壊するだろうという考えは、基本的なビジネスインセンティブを誤解しています。エンゲージメントが彼らの収益モデルであり、パニックのためにそれを燃やすことはありません。

第二に、「既得権益」という議論は、実際には私の対戦相手ではなく、私の方に有利に働きます。現在、巨大企業は、責任法とは全く関係のないネットワーク効果、資本、データ上の優位性によってすでに支配しています。一方、それらの巨大企業こそが、最も洗練された増幅エンジンを持っているため、最も文書化された損害を引き起こしているアルゴリズムを持っています。実際のアルゴリズムのリーチと収益に合わせた責任基準（多くの適切に起草された提案に含まれています）は、その規模のためにFacebookやYouTubeのエンゲージメントマシンを正確に標的とするでしょう。一方で、増幅のリスクがはるかに小さい小規模フォーラムやニッチコミュニティは、ほとんど影響を受けないでしょう。これは鈍器ではなく、私の対戦相手が認識することを拒否しているメスです。

第三に、私の対戦相手は、発言の制限は企業ではなく、裁判所や議会が設定すべきだと主張していますが、責任こそが裁判所が関与する方法です。現在、包括的な免責の下では、裁判所は完全に締め出されており、プラットフォームは、司法によるチェックなしに、増幅されるものを決定する唯一の、説明責任のない仲裁者です。責任は、政策を企業にアウトソースするのではなく、その逆を行います。それは、企業の決定を初めて司法審査の対象とします。それは、より少ないのではなく、より多くの民主的な監督です。

最後に、私の対戦相手の「より賢い代替案」—透明性、監査、通知と削除—は、責任の競合相手ではなく、その結果です。プラットフォームが今日持っているモデレーションシステムでさえ構築したのは、世論の圧力と差し迫った規制の脅威があったからです。法的拘束力のない自発的な透明性は劇場にすぎません。責任こそが、提案された改革のすべてに実際の執行力を与えるものです。それがなければ、「監査要件」は、1兆ドル規模の企業が10年以上無視してきた提案にすぎません。

現状は中立ではなく、過失に対する補助金です。私の対戦相手は、15年間の証拠にもかかわらず、プラットフォームが自己修正すると私たちに信じるように求めています。責任は自由な表現の終わりではなく、プラットフォームが彼らが利益を得ている公衆に対して最終的に説明責任を負うことの始まりです。

プラットフォームのアルゴリズムがどのように害を増幅しうるかについて、あなたは鮮やかに論じていますが、その治療法としてユーザーコンテンツに対する包括的な法的責任を課すことは、あなたが描写する問題よりもはるかに悪質で予測可能な害を生み出すでしょう。

第一に、新聞編集者とのアナロジーは、重要な法的および実務的な違いを無視しています。新聞社は、何を掲載するかを選択し、限られた数の記事に対して個別の編集上の判断を下します。現代のプラットフォームは、数十億もの一時的な投稿を処理しており、その多くは規模の点で区別がつかず、変化し続ける世界の法律、言語、規範のモザイクに対応しています。もしプラットフォームが、システムが表面化させたり推奨したりするあらゆるものに対して、発行者と同等の責任を負うことになれば、合理的でコストを最小限に抑える対応は、大規模な事前抑制となるでしょう。すなわち、自動フィルター、保守的な人間のレビュー、そしてトピックやコミュニティ全体のブロックです。これは理論上の話ではありません。リスクや規制の不確実性が高まると、企業はすでに過剰な削除を行っています。その結果、よりクリーンな公共広場ではなく、論争的な意見や少数派の意見が最初に犠牲になる、より狭く、検閲されたものになるでしょう。

第二に、あなたは通知・修正義務または増幅に特化した責任を提案しています。実際には、これらの制度は、小規模な事業者を圧迫する非対称な負担を生み出します。大手の既存企業は、法務チームを抱え、特注のコンプライアンスパイプラインを構築し、過誤に対して支払うことができます。しかし、スタートアップ、市民団体、ニッチなコミュニティはそれができません。予測される市場効果は、統合です。すなわち、中央集権的で商業化されたゲートキーパーが、どの言論が生き残るかを決定するプラットフォームが少なくなるということです。これは、私たちが分散化すべき公共の言論に対する権力を集中させることになります。

第三に、法的責任は、民主的な説明責任を欠く民間企業に、困難で価値判断を伴う言論に関する決定を委ねることになります。あなたは、これが責任の問題であり、ユーザーを罰することではないと言いますが、法的リスクを課すことは、プラットフォームを罰金や差止命令の恐怖の下で運営される、用心深い検閲者に変えてしまいます。彼らは、ニュアンスのあるローカルな判断よりも、最も安全で、管轄区域全体に適用される規則をデフォルトとするでしょう。それは、多くの文脈で合法かつ重要である可能性のあるコンテンツのグローバルなブロックにつながり、正当なジャーナリズム、研究、および異議申し立てを萎縮させます。

第四に、ターゲットを絞った被害（ティーンエイジャーの自殺の連鎖、選挙に関する偽情報、組織的な嫌がらせ）は現実であり、救済に値しますが、法的責任は鈍い道具です。より良いアプローチは、表現の自由を維持しつつ、注意義務の基準を引き上げることです。すなわち、適時な通知・削除、透明性のあるモデレーションプロセスと異議申し立て、アルゴリズム影響評価と独立監査の義務化、ランキングおよび推奨システムに関する強制的な透明性、そして会場全体の厳格責任ではなく、実証された過失に関連付けられた段階的な罰則を要求する条件付きセーフハーバーです。これらのツールは、プラットフォームにコストを内部化させ、設計を改善することを強制しますが、全面的な事前検閲を招いたり、参入障壁を引き上げたりすることはありません。

最後に、グローバルな波及効果を考慮してください。米国の一裁判所やEUの規制当局が広範な法的責任を課した場合、プラットフォームは暴露を最小限に抑えるために最も厳格な規則をグローバルに適用するようになり、合法かつ不可欠な言論がなされている国々での言論を抑制するでしょう。その結果は、あなたが保護しようとしていると主張する、多様な交換を損なうことになります。

法的責任は調整されるべきです。すなわち、プラットフォームが公正な通知の後で、違法なコンテンツを意図的にホストしたり、意図的に増幅したりした場合に責任を負わせ、堅牢な透明性と救済メカニズムを要求し、規制当局が安全設計措置を義務付ける権限を与えるべきです。しかし、プラットフォームを発行者と同等の、オープンエンドな法的暴露を持つ存在に変えることは、独占を強化し、異議申し立てを萎縮させ、インターネットをはるかにオープンでないフォーラムにするでしょう。それは、言論の自由の治療法ではなく、予測可能な災害です。

この議論が実際どこまで進んでいるのか、現状を整理しましょう。私の反対者は、私の主張の核心的な事実、すなわちプラットフォームが利益のためにコンテンツを積極的に選択・増幅するためにアルゴリズムを使用しており、その増幅が文書化された深刻な損害を引き起こしているという点を決して争っていません。それどころか、すべての反論は、プラットフォームが法的責任にどのように「過剰反応する可能性があるか」という予測に終始しています。これは、反対者が必要とするよりもはるかに弱い基盤であり、精査に耐えられません。

「大規模な事前抑制」の主張について：反対者は、プラットフォームは有能なモデレーションを構築するよりも、自社の製品を破壊するだろうと主張しています。しかし、これは基本的な経済原則に反します。エンゲージメントこそがビジネスモデルのすべてです。法的責任に対応するために、自社のコンテンツパイプラインを破壊する企業は、経済的な自殺を遂げる企業です。法的責任制度の下で実際に起こることは、例えば名誉毀損法、製造物責任法、労働安全衛生法などにおいて、企業が包括的な停止ではなく、リスクに応じたコンプライアンスに投資することです。反対者は、プラットフォームがこの点で異なる行動をとる理由を何も示しておらず、単なる主張にすぎません。

「既存勢力の固定化」について：この議論は、実際には反対者が擁護する現状を非難するものです。巨大企業はすでに、法的責任とは無関係のネットワーク効果や資本によって固定化されています。反対者が無視しているのは、リーチ、収益、アルゴリズムによる増幅の程度に連動した「規模に応じた法的責任」は、最も洗練され、最も有害な増幅エンジンを持つ企業に最も大きな打撃を与え、増幅力が最小限の小規模フォーラムにはほとんど影響を残さないということです。注目すべきは、反対者はその締めくくりの論点で、この規模に応じたメカニズムに全く触れておらず、私が提案したことのない、均一で区別されない法的責任基準に対して論じ続けていることです。

「発言の決定権を民間企業に委託する」について：これはまさに逆です。包括的な免責の下では、プラットフォームはすでにすべての発言の決定を、外部からのチェックなしに、単独で行っています。これが反対者が擁護している現状です。法的責任は、初めて裁判所をプロセスに導入し、今日存在しない真の説明責任を生み出します。反対者が推奨する代替案、「義務的なアルゴリズム影響評価」、「独立監査」、「実証された過失に連動した段階的罰則」は、法的責任の代替案ではありません。それは、より穏やかな言葉で装われた法的責任です。「過失に連動した段階的罰則」は、それを執行するための法的責任の枠組みなしには存在しえません。反対者は、この議論全体を通して、私の立場を再発明し、それを妥協と呼んでいます。

グローバルな波及効果について：法律はすでに、多くの法域で常にこのように機能しています。企業はGDPRを多くの点でグローバルに遵守していますが、インターネットが終わるわけではありません。これは、文明を終わらせるような問題ではなく、管理可能な技術的および法的問題です。

15年間の自己規制は、プラットフォームが記録的な利益を上げる一方で、十代の若者のメンタルヘルス危機、ジェノサイドに隣接する偽情報キャンペーン、組織的なハラスメントの蔓延をもたらしました。反対者は、私たちに自主的な改革を信じ続けるよう求めています。私は、自主的な改革が、公然と、繰り返し失敗してきたことを認識するよう求めています。法的責任はオープンインターネットの終わりではありません。それは、プラットフォームが、自らが構築し、利益を得てきた増幅機械に対して、法廷で説明責任を負うことを最終的に可能にするメカニズムなのです。それは表現の自由にとっての災害ではなく、大規模な責任ある表現への唯一の真剣な道です。説明責任に投票してください。

閉鎖 — 立場B：

反対派は、責任をプラットフォームに「内部コスト」を負担させ、責任ある行動を強制する外科的ツールとして描いています。実際には、プラットフォームを出版社に変えることは、予測可能に破壊的な、鈍重な手段です。中心的なトレードオフは避けられず、具体的です。法的リスクは、大規模なリスク回避を奨励し、この分野でのリスク回避は、コンテンツの広範かつ自動的な抑制を意味します。複数の管轄区域の不確実性、数十億の瞬間的な投稿、天文学的な潜在的罰金に直面した場合、合理的な企業の対応は、トピックのブロック、フィルターの強化、および万能のルールの施行によってエクスポージャーを最小限に抑えることです。これは理論的なものではありません。プラットフォームが規制または法的脅威に直面したときにすでに観察されているのと同じ行動です。過剰な削除、論争の的となる少数派の声のプラットフォームからの排除、および微妙な判断の代わりにアルゴリズムの鈍重さの置き換えです。

反対派は、責任を「増幅」に狭く焦点を当てるか、過失に基づかせることができると主張していますが、これらの区別は市場の現実を消し去るものではありません。コンプライアンスコスト、訴訟リスク、およびグローバルで統一されたコンテンツポリシーの必要性は、弁護士を吸収し、カスタムシステムを構築できる最大の既存企業を有利にします。スタートアップ、ニッチコミュニティ、学術フォーラム、市民プラットフォームはできません。予見可能な市場効果は、コンプライアンスの能力を持つ少数の民間企業によるスピーチの統合と中央集権化です。これは、改革の推進者が望むと主張する分散化と多元主義とは正反対です。

また、責任は民主的機関に管理を確実に返しません。それは、予測不可能な判決を避けるために事前に検閲しなければならない民間プラットフォームに、事実上の巨大な規制権限を与えます。裁判所が最終的に請求を裁定したとしても、その間の現実は企業の自己救済です。事前に削除し、エクスポージャーを避けるために最も厳格なルールのグローバルな適用です。これは、多くの地域で合法的かつ重要なスピーチの域外での抑制を生み出し、世界中の市民的議論と調査報道を弱体化させます。

最後に、責任は非常に具体的な問題に対する鈍重なツールです。ティーンエイジャーの安全、組織的な嫌がらせ、選挙に関する偽情報は深刻であることに、私たちは皆同意します。しかし、広範な出版社としての責任は、これらの損害に対する間違ったレバーです。議論を沈黙させることなく安全性を向上させる、より良い、比例した代替手段があります。明確に違法なコンテンツに対する執行可能な定義と罰則。タイムリーな通知と修正、異議申し立て、透明性を要求する条件付きセーフハーバー。必須のアルゴリズム影響評価と独立監査。違法行為を助長するように意図的にシステムを設計したアクターに対する標的責任。そして、市場から撤退することなく、中小プラットフォームが安全基準を満たすのを支援するための補助金または規制緩和です。

これらの改革は、オープンで多元的なインターネットを維持しながら、プラットフォームの設計と運用に現実的で執行可能な義務を課します。それらは、出版社のような責任がもたらす大規模で無差別に検閲と市場の統合を招くことなく、損害に対する救済策を作成します。

要するに、反対派は現実の損害を正しく特定していますが、彼らの救済策は、混沌としたリスクの高いエコシステムを、より狭く、より中央集権化されたエコシステムに置き換えることになります。そこでは、民主的機関ではなく、民間企業が許可されるスピーチのゲートキーパーになります。自由な表現、競争、説明責任のあるガバナンスのために、ユーザーコンテンツに対する広範な法的責任を拒否し、オープンなインターネットを破壊することなく損害を抑制する、標的を絞った執行可能な改革を採用すべきです。