ソーシャルメディアプラットフォームはユーザー生成コンテンツに法的責任を負うべきか？

ソーシャルメディアプラットフォームがユーザー生成コンテンツに対する責任を免除されることがほとんどである現在の法的枠組みは、根本的に破綻しています。これらのプラットフォームは受動的な伝達手段ではなく、能動的なキュレーター、増幅者、そして発言の収益化者です。エンゲージメントを最大化するように設計されたアルゴリズムは、しばしばセンセーショナルで、対立を煽り、有害なコンテンツを促進します。継続的な免責を主張することは、これらの企業が果たす重大な編集的役割を無視することです。特に自社のシステムによって増幅されたコンテンツに対する法的責任を負わせることは、堅牢なコンテンツモデレーションを奨励し、個人を名誉毀損やハラスメントから保護し、危険な誤情報の蔓延を抑制するために必要な一歩です。この説明責任により、プラットフォームは、公共にそのコストを外部化するのではなく、利益を得ているコンテンツの社会的コストの一部を負担することが保証されます。

プラットフォームは、ユーザー生成コンテンツに対して広範な法的免責を維持すべきです。なぜなら、プラットフォーム規模での責任追及は、慎重な正義をもたらすのではなく、大規模な事前検閲を生み出すからです。ソーシャルメディアは、言語、文脈、法制度を超えて数十億もの投稿をホストしています。もし、あらゆる中傷的な発言、論争的な政治的主張、辛辣なレビュー、風刺、流出した文書、活動家の告発、あるいは論争のあるニュース報道がホストに責任を生じさせる可能性があるならば、プラットフォームは合理的に、まず削除し、後で質問することになるでしょう。消える可能性が最も高い言論は、すでに標的とすることができる明白に違法なコンテンツではなく、法的に曖昧な言論、すなわち内部告発、少数派の異議、パロディ、市民ジャーナリズム、そして訴訟をちらつかせる力のある人々への批判でしょう。 新聞のアナロジーは成り立ちません。新聞は、出版前に限られた数の記事を選択し、編集します。プラットフォームは、膨大な数の独立した発言者のためのインフラを提供します。ランキングやレコメンデーションは、検索エンジンがインデックスするすべてのページの著者になるわけではないのと同じように、すべてのユーザー投稿をプラットフォーム自身の発言に変えるものではありません。もしアルゴリズムによる組織化だけで発行者責任が生じるのであれば、ユーザーが言論を見つけるのを助けるあらゆるツールが法的に危険になります。 責任追及はまた、最大の企業を強化することにもなるでしょう。巨大テック企業は、モデレーター、弁護士、コンプライアンス担当者の軍隊を雇うことができます。小規模なフォーラム、スタートアップ、非営利コミュニティ、ローカルプラットフォーム、ニッチな議論スペースはそれができません。説明責任として販売された責任制度は、支配的なプラットフォームをより支配的にする一方で、異なるモデレーション価値を持つ小規模な代替手段を排除する可能性が高いです。 これらすべてが、被害者が無視されるべきだという意味ではありません。中傷、嫌がらせ、脅迫、扇動を行う人々は、標的を絞った法的措置に直面すべきです。プラットフォームは、透明性、異議申し立て、報告システム、研究者へのデータアクセス、およびレコメンデーションに対するユーザーコントロールを提供することを要求される可能性があります。法律は、違法行為への意図的な協力や、裁判所の命令に従わないことを罰することができます。しかし、プラットフォームにユーザーの言論に対する広範な責任を負わせることは、それらを絶え間ない法的脅威にさらされる民間の検閲者に変えてしまうでしょう。より良い道は、実際の加害者に対する説明責任と、プラットフォームに対する手続き上の義務であり、オープンなオンラインディスコールを可能にする免責を破壊することではありません。

相手方（反対意見を述べる側）は、プラットフォームに責任を負わせると、大規模な検閲につながり、小規模なプラットフォームに不釣り合いな損害を与えるだろうと主張しています。しかし、この議論は提案されている責任の性質を誤解しています。私たちは、ユーザーが投稿したあらゆるコンテンツに対して厳格な責任を負わせることを主張しているのではありません。むしろ、プラットフォームがアルゴリズムを通じて積極的に増幅するコンテンツ、つまりエンゲージメントと利益を最大化するためにキュレーションし、宣伝するコンテンツに対する責任に焦点を当てています。これは、単なる掲示板とは根本的に異なります。プラットフォームのアルゴリズムが、中傷的な声明や危険な誤情報を何百万人にも拡散する場合、それは単にホスティングしているのではなく、その拡散に積極的に関与しているのです。 新聞との類似性は欠陥があるわけではありません。それは、プラットフォームが現在果たしている編集的役割を浮き彫りにします。新聞には限られたスペースがありますが、プラットフォームには無限の規模がありますが、そのアルゴリズムは、どのコンテンツが優先され、ユーザーに表示されるかについて編集上の選択を行っています。このアルゴリズムによるキュレーションは、説明責任を伴うべき編集管理の一形態です。さらに、小規模プラットフォームに関する懸念は誇張されています。責任は段階的に設定でき、規制は、単なるホスティングではなく、アルゴリズムによる増幅に焦点を当てるなど、さまざまなリソースに対応できるように設計できます。根本的な問題は、プラットフォームがエンゲージメントから利益を得ており、そのエンゲージメントが有害なコンテンツによって推進される場合、プラットフォームはその責任を完全に免除されるのではなく、共有すべきであるということです。相手方が提案する解決策—透明性とユーザーコントロール—は、責任がプラットフォームに軽減を直接促すことになる、有害なコンテンツの体系的な増幅に対処するには不十分です。

反対論は、プラットフォームの責任を負わせれば有害なコンテンツが排除され、合法的な表現はそのまま残るという、魅力的ではあるが危険な仮定に基づいています。実際には、責任は知恵を生み出すのではなく、リスク回避を生み出します。プラットフォームが何十億ものユーザーの発言に対して訴訟に直面する場合、最も安全なビジネス上の決定は、文脈に依存するあらゆる主張を調査することではありません。それは、論争のあるもの、法的に不確かなもの、または強力な申し立て人を怒らせる可能性のあるものを抑制することです。 反対者は、アルゴリズムがプラットフォームを新聞や放送局と同等にすると述べています。その比較は依然として成り立ちません。新聞は、掲載する記事を積極的に選択します。プラットフォームのランキングシステムは、ユーザーがナビゲートできるように、膨大な量の第三者の発言を整理します。検索エンジン、レビューサイト、マーケットプレイス、コメントセクション、コミュニティフォーラムはすべて、ユーザーコンテンツをランク付け、並べ替え、推奨、または表示します。その組織化機能が発行者責任の引き金となれば、現代のインターネットは設計上法的に危険なものになります。その結果、レコメンデーションツールは減り、オープンフォーラムは減り、より一方的な検閲が増えるでしょう。 また、責任は主に大手のプラットフォームを傷つけるわけではありません。最大手の企業はすでに、責任体制を生き残るための資金、弁護士、自動化されたモデレーションシステムを持っています。中小の競合他社、非営利コミュニティ、独立系フォーラム、専門プラットフォームは、わずかな訴訟からでも存続の危機に直面するでしょう。大手テクノロジー企業を規律するどころか、広範な責任は、発言をホストするコストを増やすことで、それらを競争から保護することになります。 反対者は、名誉毀損、ハラスメント、脅迫、違法行為の被害者が救済を受ける権利があるという点で正しいです。しかし、責任ある道は、それらの不正行為を行ったユーザーを追及し、プラットフォームに合法的な裁判所の命令に応じるよう要求し、モデレーションおよびレコメンデーションシステムに関する透明性を向上させ、ユーザーに表示されるコンテンツに対するより強力な制御を与えることです。また、プラットフォームを各ユーザーの発言に対して法的に責任を負わせることなく、デュープロセス、報告メカニズム、開示に関する義務を課すこともできます。 中心的な問題は、有害な発言が存在するかどうかではありません。もちろん存在します。問題は、その治療法が病気よりも悪いかどうかです。広範な責任は、民間企業に、誰も異議を唱える前に発言を過剰に削除する法的権限を与えるでしょう。それは合法ではあるが論争のある表現を沈黙させ、攻撃的な訴訟当事者を力づけ、最大の既存企業を統合するでしょう。免責は、的を絞った説明責任と透明性の義務と組み合わされることで、オープンインターネットにとってより良い枠組みであり続けます。

相手方の最終弁論は、悲惨な結果を描写していますが、今日のソーシャルメディアプラットフォームの実際の運用方法を根本的に無視しています。それらは受動的な掲示板ではなく、コンテンツのキュレーションと増幅を行う洗練されたエンジンです。アルゴリズムが促進するコンテンツに対してプラットフォームに責任を負わせることは、検索エンジンがインデックス化するすべてのウェブページに対して責任を負わせるようなものであるという示唆は、ユーザーエクスペリエンス、ひいては情報（そして偽情報）の拡散を形成する上でプラットフォームが果たす積極的な役割を根本的に誤解しています。 私たちの議論の核心は依然としてここにあります。プラットフォームはエンゲージメントから利益を得ており、そのエンゲージメントが有害、中傷的、または誤解を招くコンテンツによって推進される場合、それらはある程度の責任を負わなければなりません。「大規模な検閲」の恐怖は、論点のすり替えです。私たちは、すべてのユーザー投稿を検閲するという不可能な課題のためではなく、特にアルゴリズムによる増幅に関する説明責任を主張しています。これは、プラットフォームに、より良いモデレーションに投資し、センセーショナリズムや虚偽を優先しない方法でシステムを設計することを奨励するためのものです。 さらに、責任が小規模なプラットフォームを破滅させるという議論は、都合の良い言い逃れです。賢明な法規制は、さまざまなプラットフォームのリソースと規模を考慮して段階的に設定されるべきであり、また設定されるべきです。現在の免責は、最大のプレーヤーに、ビジネスモデルの社会的コストを外部化することを許可することで、不均衡に利益をもたらしています。 結局のところ、相手方のオープンインターネットのビジョンは、危険な虚構に基づいています。つまり、プラットフォームは、結果なしにエンゲージメントから利益を得ながら、無制限の強力な存在として運営し続けることができるというものです。私たちは、被害者を保護し、有害なコンテンツの拡散を抑制し、プラットフォームがデジタル公共広場の責任ある管理者となることを奨励する、よりバランスの取れたアプローチを主張します。現状は持続不可能であり、より健全なオンラインエコシステムを確保するためには、提案されている責任は必要な進化です。

プラットフォームの責任を問うという主張は、説明責任を約束するため、魅力的に聞こえる。しかし、この議論を通じて、反対派は中心的な問題を解決したことがない。インターネット規模では、ユーザーの発言に対する法的責任は、慎重でバランスの取れたモデレーションを生み出すものではない。それは防御的な検閲を生み出すだろう。 反対派は、責任をアルゴリズムによる増幅に限定できると主張するが、それは提案を安全なものにはしない。現代のプラットフォームのほとんどは、コンテンツを何らかの構造化された方法で整理、ランク付け、検索、推奨、または表示している。時系列フィードはランク付けの選択である。検索結果はランク付けの選択である。トレンドリスト、推奨サイドバー、ハッシュタグ、レビューフィルターはすべて、アルゴリズムによる順序付けを伴う。もしそれらの通常のツールが、根底にある発言に対する法的責任を引き起こすならば、プラットフォームは合法だが争いのあるコンテンツを抑制したり、有用な発見機能を無効にしたり、最も安全で最も無害な表現のみを許可したりすることで対応するだろう。 それは特に保護を最も必要とする発言、すなわち強力な機関への批判、不正行為の申し立て、政治的反対意見、風刺、調査報道、人気のない意見、少数派の視点に損害を与えるだろう。これらはまさに法的脅迫や事実上の紛争を生み出す投稿の種類である。裕福な著名人や企業は、主張が偽であることを証明する前にそれを沈黙させる必要はないだろう。責任のリスクがあるだけで、プラットフォームはそれを削除するように圧力をかけられるだろう。 反対派はまた、競争の問題に十分に対応したことがない。大手プラットフォームはコンプライアンスコストを吸収し、法務チームを雇い、大規模なモデレーションシステムを構築できる。小規模なコミュニティ、スタートアップ、ローカルフォーラム、非営利プラットフォームはできない。責任はビッグテックを謙虚にさせるのではなく、その周りに法的堀を築くだろう。 これらはオンラインでの被害が現実であることを否定するものではない。名誉毀損、ハラスメント、脅迫、詐欺は対処されるべきである。しかし、法律はそれらの不正行為を犯した人々を標的にし、プラットフォームに裁判所の命令に従うことを要求し、透明性を向上させ、報告および異議申し立てシステムを提供し、ユーザーに推奨システムに対するより多くの制御を与えるべきである。これらの改革は、民間企業を第一線の検閲官にすることなく、被害に対処する。 したがって、より強力な立場は明確である。ユーザー生成コンテンツに対する広範な免責を維持しつつ、実際の加害者に対する的を絞った手続き上の義務と説明責任を課すことである。免責を撤廃することは、合法的な発言を萎縮させ、小規模なプラットフォームを潰し、インターネットをよりオープンで、より多様で、より自由でないものにするだろう。