ソーシャルメディアプラットフォームはユーザー生成コンテンツに対して法的責任を負うべきか？

ソーシャルメディアプラットフォームは、もはや単なる掲示板ではなくなったため、ユーザー生成コンテンツに対して法的な責任を負うべきです。プラットフォームは、エンゲージメントと広告収入を最大化するように設計された高度なアルゴリズムを用いて、コンテンツをランク付けし、推奨し、抑制し、ブーストし、収益化し、ターゲティングしています。プラットフォームが、ユーザーをオンラインに繋ぎ止めるために中傷的な主張、危険な誤情報、嫌がらせ、扇動を積極的に増幅する場合、それは中立的な通信事業者というよりも、発行者に近い機能をしていることになります。 法的免責は、深刻な説明責任のギャップを生み出しました。評判の失墜、組織的な虐待、アルゴリズムによって増幅された嘘の被害者は、その損害を防止する上で最も大きな力を持つ主体に対して、実質的な救済手段を持たないことがよくあります。その一方で、プラットフォームは規模から利益を得ながら、その社会的コストを個人、コミュニティ、選挙、公衆衛生システム、裁判所に外部化しています。ほぼすべての他の産業では、企業は設計上の選択が予見可能に損害を可能にした場合、責任を問われる可能性があります。自動車会社は、欠陥設計の責任を運転手のせいにすることで免れることはできず、製薬会社は、積極的な流通から利益を得ながら、予見可能な誤用を無視することはできません。デジタルプラットフォームは、損害が投稿を通じて配信されるという理由だけで、特別な免除を受けるべきではありません。 責任を負わせることは、すべてのプラットフォームをすべてのユーザーの発言に対して有罪とみなす必要はありません。法律は、受動的なホスティングと能動的なアルゴリズムによるプロモーション、合理的なモデレーションの取り組みと無謀な無視、小規模フォーラムとすでに広範な技術的能力を持つ兆ドル規模の企業を区別することができます。目標は、表現の自由を排除することではなく、インセンティブを整合させることです。プラットフォームがコンテンツの推奨から利益を得るならば、そのシステムが予見可能に違法で危険な物質を拡散した場合、それも責任を負うべきです。 責任がなければ、プラットフォームはエンゲージメントを第一に、安全を二の次に優先するあらゆる理由があります。責任があれば、モデレーション、透明性のある異議申し立て、組織的な操作のより良い検出、より安全なアルゴリズム設計に、より真剣に投資するでしょう。表現の自由は重要ですが、それは強力な企業に、損害の収益化された増幅に対する包括的な免責を与えることを必要としません。説明責任は検閲ではありません。それは、より健全なデジタル公共圏のための基本的な条件です。

ソーシャルメディアプラットフォームは、ユーザー生成コンテンツに対して広範な責任を負うべきではありません。発行者レベルの責任を課すことは、私たちが知っているインターネットを根本的に変え、広範な過剰検閲につながり、自由な表現を抑制することになります。特に小規模なプラットフォームは、破滅的な訴訟を回避するために、合法的な言論の大部分を削除せざるを得なくなり、慎重を期すことを余儀なくされるでしょう。これは、イノベーションと競争を阻害するだけでなく、必要な膨大なモデレーション業務を負担できるのは大企業だけになるため、オンラインディスコースの管理を少数の強力な主体に集中させることにもつながります。さらに、有害なコンテンツに対する法的責任は、それをホストするだけのインフラストラクチャプロバイダーではなく、それを生成および配布した個人が負うべきです。プラットフォームに責任を負わせることは、真の加害者から説明責任をそらし、個人が自身の行動と言葉に責任を負うという原則を損なうことになります。責任保護は、オープンインターネットの育成に不可欠であり、多様なコミュニティ、市民ジャーナリズム、そしてアイデアの自由な交換が繁栄することを可能にしてきました。これらの保護を削除することは、この活気に満ちたデジタルエコシステムの基盤そのものを解体することになります。

反対意見は、プラットフォームの責任は、すべてのユーザー投稿に対して、広範かつ絶対的で、発行元レベルでなければならないと仮定しています。それは偽りの二者択一です。責任を問うべき理由は、誰かが確認する前に違法な投稿をしたというだけで、小規模なフォーラムが破産するまで訴えられるべきだということではありません。そうではなく、プラットフォームが、有害なコンテンツを積極的に増幅するレコメンデーションシステムを設計し、その増幅を収益化し、繰り返しの警告を無視し、あるいは予見可能な違法な損害に対して合理的な措置を講じない場合、包括的な免責特権の陰に隠れるべきではないということです。 表現の自由は、企業の設計上の選択に対する法的免責を必要としません。私たちはすでに他の文脈で、言論と行動を区別しています。新聞は、自ら発行すると決定した内容に対して責任を負い、放送局は、放送するものに対して義務を負い、製品メーカーは、予見可能な損害がその設計から生じる場合に責任を負う可能性があります。ソーシャルメディア企業は、数十億人が最初に目にするもの、どの投稿がバイラルになるか、どの陰謀論が推奨されるか、そしてエンゲージメントを促進するためどの過激なコンテンツが報酬を得るかを決定する際に、単なる中立的なインフラではありません。それはアルゴリズムによって実行される場合であっても、編集上および商業上の活動です。 過度の検閲の懸念は現実ですが、それは説明責任ゼロの理由にはなりません。法律は、過失基準、善意のモデレーションに対するセーフハーバー、通知・対応手続き、小規模プラットフォームに対する保護の強化、そして通常の論争的な言論ではなく、違法なコンテンツと無謀な増幅に焦点を当てた責任を通じて調整することができます。現在のシステムは、その逆を行き過ぎています。それは、世論の圧力がブランドを脅かすまで、プラットフォームに予見可能な損害を防ぐインセンティブをほとんど与えません。 また、プラットフォームの責任が元の加害者を免責するわけでもありません。両方が責任を負う可能性があります。個人が他者を中傷した場合、その個人は責任を負うべきです。しかし、アウトレイジが収益になるという理由で、プラットフォームがその中傷を何百万人にも意図的に拡散した場合、被害者は、損害を拡大した企業が何もせずに立ち去る一方で、匿名または資力のないユーザーを訴えることしかできないべきではありません。 オープンインターネットは、説明責任のないインターネットを意味すべきではありません。賢明な責任は、合法的な言論を維持しながら、より安全な設計、より良いモデレーション、そして意味のある救済を奨励するでしょう。反対者は、表現を保護する唯一の方法であるかのように包括的な免責を擁護していますが、説明責任と表現の自由は共存できます。継続すべきでないのは、プラットフォームが増幅から利益を得る一方で、被害者がそのコストを負担するシステムです。

相手の議論は、ソーシャルメディアとインターネットの本質を根本的に誤解しています。アルゴリズムを使用してコンテンツを整理・提示するという理由だけで、プラットフォームを従来の出版社と同列に扱うのは誤った類推です。出版社は、配布前にコンテンツを作成、編集、承認し、そのメッセージに対して直接責任を負います。対照的に、ソーシャルメディアプラットフォームは、毎日数十億ものユーザー生成コンテンツをホストしており、その規模では従来の編集監督は不可能です。アルゴリズムは、この膨大な量を管理するためのツールであり、従来の意味でのコンテンツの承認や公開のためではありません。コンテンツの発信源と法的責任は、それを作成したユーザーに残ります。 さらに、被害者に救済がないという主張は誤解を招きます。中傷的、違法、または有害なコンテンツを投稿した個人は、すでにその発言に対して法的な責任を負っています。法制度は、プラットフォームに負担を転嫁するのではなく、これらの加害者を責任追及することに焦点を当てるべきです。そうしなければ、説明責任が希薄化し、危害の真の原因を特定し、訴追することがより困難になるだけです。自動車メーカーや製薬会社との類推もまた欠陥があります。これらの企業は、固有の欠陥を持つ可能性のある物理的な製品を設計・製造しています。ソーシャルメディアプラットフォームはコミュニケーションインフラストラクチャを提供しており、「危害」はプラットフォーム自体の欠陥からではなく、個人によるそのインフラストラクチャの誤用から生じます。 広範な責任を課すことは、「より良いモデレーション」につながるのではなく、広範な過度の検閲につながるでしょう。破滅的な訴訟の脅威に直面して、プラットフォームは必然的に慎重になり、潜在的なリスクを回避するために、合法的な正当な発言の大部分を削除するでしょう。これは、要求される大規模で法的に正当なモデレーション運用を実施するリソースを持たない小規模なプラットフォームやスタートアップに不均衡に影響を与え、相手が懸念していると主張する巨大企業を逆に強化することになります。自由な表現と多様なコミュニティを育んできた「オープンインターネット」は、リスク回避型の高度にキュレーションされたデジタルランドスケープに取って代わられ、イノベーションを抑制し、オンラインディスコースの管理を中央集権化するでしょう。

中心的な問題は、すべてのプラットフォームがすべての投稿を事前にスクリーニングできるかどうかではありません。中心的な問題は、強力な企業が、自社のシステムが大規模に有害で違法なコンテンツを選択、推奨、収益化、増幅しているにもかかわらず、ほぼ全面的な免責を享受すべきかどうかです。相手方は繰り返しプラットフォームを単なるインフラと描写していますが、その描写はもはや現実と一致しません。電話会社は、どの通話がバイラルになるかを決定しません。中立的なウェブホストは、広告収入を最大化するために怒りを最適化しません。ソーシャルメディアプラットフォームは、注目、配信、利益を形成します。それこそが、説明責任が必要とされる理由です。 相手方は過度の検閲と小規模プラットフォームへの損害を警告していますが、それらの懸念は、注意深い責任を支持するのであって、全面的な免責を支持するものではありません。法律は、合理的に行動する小規模なコミュニティフォーラムと、利益になるという理由で中傷的、詐欺的、または危険な素材を意図的に促進する巨大プラットフォームとを区別すべきであり、また区別することができます。セーフハーバー、過失基準、通知に基づく義務、善意のモデレーションに対する保護は、過剰な負担を防ぎつつ、プラットフォームが不注意に行動した場合に被害者に救済を与えることができます。選択肢は、全面的な免責とすべてのウェブサイトを潰すことの間にあるのではなく、責任あるルールと説明責任の真空の間にあるのです。 また、プラットフォームに責任を負わせることが、元の発信者を免責することにもなりません。違法なコンテンツを作成した個人と、それを意図的に増幅した企業の双方が責任を負うことができます。多くの実際のケースでは、元の投稿者は匿名、海外在住、支払い能力がない、または特定が不可能ですが、その損害をバイラルにし、そこから利益を得たのはプラットフォームという当事者です。被害者に、損害を拡大させた当事者に対して実質的な救済手段を残さない法制度は、表現の自由を保護しているのではなく、ビジネスモデルを保護しているのです。 自由な表現は重要ですが、自由な表現は、数十億ドル規模の企業に、自社の設計上の選択によって生じる結果から特別な免除を与えることを必要としません。他の産業は、自社が構築した製品やシステムによって生じる予見可能な損害を説明しなければなりません。ソーシャルメディアも同様であるべきです。合理的な責任は、プラットフォームに、より安全なアルゴリズムを設計し、違法なコンテンツに迅速に対応し、より責任あるモデレーションを行い、現在社会に課しているコストを内部化することを促すでしょう。 相手方の主張は、最終的にはプラットフォームを受動的なパイプとして扱うことに依存しています。しかし、彼らはそうではありません。彼らは現代の公共広場の能動的なキュレーターであり、損害を増幅することから利益を得るならば、法的に責任を負うべきです。説明責任は、企業の力が責任なしに運営されることを拒否しつつ、言論を維持するため、より強力な道なのです。

相手方のプラットフォームに対する広範な法的責任を主張する論点は、オープンインターネットの基盤そのものを解体しかねない解決策を提案し、オンラインコミュニケーションの本質を根本的に誤解しているため、最終的に成り立ちません。アルゴリズムによる拡散という理由でプラットフォームを出版社と同等とみなすという彼らの中心的な主張は、誤った類推です。出版社は積極的にコンテンツを作成・編集しますが、対照的にソーシャルメディアプラットフォームは、想像を絶する量のユーザー生成コンテンツをホストしており、アルゴリズムは編集上の承認ではなく、整理のためのツールです。出版社レベルの責任を課すことは、プラットフォームをホストではなく検閲者へと駆り立て、合法的な言論に必然的かつ広範な萎縮効果をもたらすでしょう。 相手方の「調整された」責任というビジョンは、過剰な検閲への懸念に対処しようとするものですが、非現実的かつ危険なままです。数十億人のユーザーが投稿する広範で多様なコンテンツに対してプラットフォームに責任を負わせるいかなる法的枠組みも、プラットフォームに慎重を期すことを強要し、訴訟リスクを回避するために正当な言論を削除させるでしょう。これは、小規模なプラットフォームやスタートアップに不均衡な打撃を与え、イノベーションと競争を阻害し、最終的には相手方が懸念していると主張する巨大テック企業を利することになります。その結果、現在の枠組みの下で繁栄してきた多様な声やコミュニティを欠いた、中央集権的で高度に編集されたインターネットが生まれるでしょう。 さらに、相手方の主張は、責任が真に帰属すべき場所、すなわち有害なコンテンツを作成・拡散した個人から、責任をそらしています。私たちの法制度は、すでにこれらの加害者に対する救済措置を提供しています。プラットフォームに広範な責任を負わせることは、個人の責任を希薄化させ、危害の真の原因を特定し、訴追することをより困難にします。アイデアの活発な交換や市民ジャーナリズムが行われるオープンインターネットは、責任保護の成功の証です。これらの保護を撤廃することは、「より健全なデジタル公共空間」につながるのではなく、抑圧され、多様性を失い、最終的にはより自由でないインターネットにつながるでしょう。私たちは、自由な表現を可能にするインフラストラクチャを保護すると同時に、個人の言葉や行動に対する責任を個人に負わせる必要があります。