未成年者向けアルゴリズム推薦フィードの禁止

18歳未満のユーザーに対して、エンゲージメントに基づいたレコメンデーションフィードを禁止すべきです。なぜなら、それらは若者の幸福ではなく、注意力を最適化するからです。思春期の若者は、衝動制御や感情調整能力がまだ発達途上にあり、動画、投稿、またはプロンプトがユーザーのスクロールを維持させることを学習し、それらをさらに提供するシステムに対して特に脆弱です。その結果、強迫的な利用、睡眠障害、社会比較の激化、そして自傷行為、摂食障害、その他の有害なコンテンツへの繰り返し的な接触につながる可能性があります。

プラットフォーム側は、パーソナライゼーションによって教育的なコンテンツを提示し、安全でない素材をフィルタリングできると主張するかもしれません。それらは正当な目標ですが、エンゲージメントの予測に基づいてコンテンツをランク付けする必要はありません。年齢に応じた安全システムは、時間を最大化し、インタラクションを最大化するように設計されたフィードなしで機能することができます。時系列フィードやユーザー主導の選択肢は、実行可能な代替手段を提供します。法的禁止は、危険なインセンティブとデザインパターンを対象とするものであり、ソーシャルメディアや有用なコンテンツを禁止するものではありません。リスクが、商業的エンゲージメントのために未成年者の注意力を最適化することから生じる場合、若いユーザーを保護するためには、その一線を引く必要があります。

ありがとうございます。私は、18歳未満のユーザーに対するアルゴリズムのおすすめフィードの法的禁止は、実際の問題に対する間違ったツールであり、若者をより安全にするのではなく、むしろ危険にさらすことになると主張します。

まず、禁止が実際にはアルゴリズムを何に置き換えるのかを考えてみましょう。現実的な代替案は、時系列順またはフォローのみのフィードです。時系列順のフィードは中立ではありません。それは単に、最も頻繁に、そして最も最近に投稿する人によるキュレーションにすぎません。2023年にサイエンス誌で発表されたMeta自身の内部実験を含む、時系列順をテストしたプラットフォームに関する研究では、時系列順のフィードは信頼できない低品質なコンテンツへの露出を増加させることがわかりました。14歳の場合、それはより多くのスパム、より多くの生のバイラルコンテンツ、そしてシステムがスクリーニングしていないコンテンツを意味します。ランキングシステムは、プラットフォームが自傷行為の素材を降格させ、摂食障害のコンテンツのランクを下げ、見知らぬ大人からの連絡を抑制し、危機リソースを提示するレイヤーです。法律でそのレイヤーを剥ぎ取ると、有害なコンテンツ自体はそのままにして、主要な安全メカニズムを削除することになります。

第二に、パーソナライゼーションは、有益なコンテンツが実際に若者に届く方法です。コーディング、音楽理論、気候科学、または不安の管理に興味のあるティーンエイジャーは、フォローしているアカウントに限定されたフィードよりも、おすすめを通じて質の高いクリエイターに出会う可能性がはるかに高くなります。ピュー・リサーチは一貫して、ティーンエイジャーの大多数がソーシャルメディアはよりつながりを感じさせ、創造性を示し、サポートを見つける場所を提供すると述べていると報告しています。おすすめは、プラットフォームがLGBTQの若者サポートコミュニティ、チューターチャンネル、または検索するとは決して知らなかったメンタルヘルスリソースを見つけることを可能にします。フォローのみの世界は、ティーンエイジャーを既存のソーシャルサークルが共有しているものに閉じ込め、それはしばしば最も多様性がなく、最も教育的でないコンテンツになります。

第三に、反対意見は、すべてのアルゴリズムを「エンゲージメント最大化」という単一のものとして扱うことに基づいています。それは誤った見方です。最新のランキングシステムは、ユーザーからの満足度報告、後悔に関するアンケート、滞在時間の制限、品質分類子など、多くのシグナルを最適化しています。プラットフォームはすでに、機密性の高いカテゴリを制限し、デフォルトでプライベートアカウントを設定し、深夜の通知を制限するティーンエイジャー固有のモデルを実行しています。規制上の正しい動きは、これらの設計上の選択を義務付け、監査することです。つまり、未成年者のフィードに特定のコンテンツカテゴリを除外することを義務付け、最適化のターゲットに関する透明性を義務付け、独立した安全監査を義務付け、違反に対して実際の罰則を課すことです。それはターゲットを絞った、証拠に基づいた規制です。一律の禁止は、管理できるツールを、まったく管理できないフィードのために捨て去ることになります。

第四に、禁止の経験的根拠は、聞こえるほど強くありません。青年期のメンタルヘルスとソーシャルメディアに関する最も強力な研究、特にOrbenとPrzybylskiによる大規模なメタ分析や、2023年のアメリカ心理学会の勧告は、ランキングの単なる存在ではなく、コンテンツとコンテキストに依存する、小さく一貫性のない影響を見出しています。APAは、推奨を排除するのではなく、発達段階に合わせて機能を調整することを明確に推奨しています。危害が特定のコンテンツと特定の設計パターンから生じるのであれば、法律はそれらをターゲットにすべきであり、情報をソートする一般的な能力をターゲットにすべきではありません。

最後に、禁止は実際には実行不可能で逆効果です。すべてのユーザーに対して侵襲的な年齢確認が必要となり、子供と大人の両方にとってプライバシーのリスクが生じます。ティーンエイジャーを規制された領域外のプラットフォームや、まったく保護のない大人用アカウントに追いやります。そしてそれは深刻な表現の自由の負担となり、それが米国で裁判所が同様の州法を差し止めた理由です。

問題は、ティーンエイジャーが保護に値するかどうかではありません。彼らは値します。問題は、フィルタリング、降格、安全のためのパーソナライゼーションを行うことができる唯一のシステムを削除することが、彼らをより安全にするかどうかです。そうではありません。アルゴリズムを規制し、アルゴリズムを監査し、アルゴリズムを制約してください。しかし、実際に保護を行うことができる唯一のツールを禁止しないでください。

相手方の主張は、コンテンツを安全のためにスクリーニングすることと、エンゲージメントを最大化するためにランク付けすることという、2つの異なる機能を混同しています。プラットフォームは、どのコンテンツがティーンエイジャーをスクロールさせ続けるかを予測することなく、有害な素材を削除またはラベル付けし、成人との接触を制限し、危機リソースを提供することができます。時系列フィードだけが唯一の代替案ではありません。プラットフォームは、フォローしたアカウントのフィード、ユーザーが選択したトピック、検索、そしてエンゲージメントシグナルではなく、明示的な関心や教育的価値に基づいたレコメンデーションを提供することができます。

また、時系列フィードが低品質な投稿を表面化させる可能性があるという証拠は、エンゲージメントランキングが未成年者をより安全にすることを示しているわけではありません。同じシステムが、まさにインタラクションを生み出すという理由で、センセーショナルで感情的に挑発的な素材を増幅させる可能性があります。モデレーションは一部のリスクを軽減できますが、注意を引き続けるものを繰り返し提供するという根本的なインセンティブをなくすものではありません。相手方が提案する監査や品質測定は、プラットフォームの定義、データ、および執行に依存しており、これらは外部からはほとんど見えない領域です。未成年者に対するエンゲージメントベースのランキングの明確な禁止は、より執行可能な境界線であり、安全モデレーションはそのまま残されます。

パーソナライゼーションは、若い人々が有用なコミュニティや教育的な素材を発見するのに役立ちますが、その利点は視聴時間やリアクションを最適化することに依存しません。それは、意図的な検索、購読、またはエンゲージメントに基づかないレコメンデーションを通じて提供することができます。そして、平均的な効果が小さいという発見は、問題を解決しません。平均的な結果は、脆弱なティーンエイジャーに対する深刻な危害や、睡眠障害や強迫的なスクロールを含む特定の利用パターンを隠す可能性があります。未成年者を保護するために、すべてのティーンエイジャーが危害を受けていると証明する必要はありません。それは、商業的な注意のために発達中の自己制御を予測的に悪用する設計を避けることを必要とします。

年齢確認と表現の自由に関する懸念は慎重な保護措置に値しますが、それらは比例的でプライバシーを保護する執行を設計するための理由であり、エンゲージメントを最大化するフィードを維持するための理由ではありません。相手方は、レコメンデーションが有用であることを示しましたが、未成年者が有用または安全なコンテンツを受け取るためにエンゲージメントランク付けされたフィードを必要とすることを示したわけではありません。安全ツールは維持し、注意を最大化するインセンティブは排除してください。

相手の冒頭の主張は、安全フィルタリングと有益なパーソナライゼーションはランキングから切り離せるため、前者は維持し、後者は禁止できるという一点に集約されます。しかし、その主張は、これらのシステムが実際にどのように機能するかという現実には耐えられず、それが崩れれば、禁止の根拠も一緒に崩れ去ります。

まず、想定されている分離について考えてみましょう。年齢不適切なコンテンツのフィルタリングは、フィードとは別個の二項対立的なゲートではありません。有害なコンテンツのごく一部しか、 outright に削除できるほど明白ではありません。ダイエットコンテンツが摂食障害の助長に繋がる、悲しい気分の動画が自傷行為の賛美に繋がる、フィットネスコンテンツが身体醜形症に繋がる、といった多くの曖昧な領域は、デモション（demotion）、つまりスコアリングを下げてティーンエイジャーへの露出を減らすことで対処されます。デモションはランキングです。時系列フィードは何もデモションできません。フォローしているすべての投稿を到着順に表示するだけで、この投稿は少なく表示されるべきだと言う能力はありません。したがって、相手が安全システムはランキングを中心としたフィードなしで機能すると言うとき、正直な答えは、安全システムこそがランキングそのものであるということです。ランキングを禁止すれば、明白なケースを捕捉する二項対立的なゲートは維持されますが、それ以外のすべてを処理するレイヤーは失われます。

次に、相手が決して触れない定義の問題を検討します。エンゲージメントベースのフィードとは何でしょうか？機能するすべてのランキングシステムは、何らかのエンゲージメントシグナルを使用します。なぜなら、クリック、視聴時間、共有が、チュータービデオが有用でスパム投稿がそうでないことをモデルが学習する方法だからです。もし禁止がエンゲージメントシグナルを使用するすべてのフィードを対象とするなら、それらは同じデータでトレーニングされているため、安全分類器も対象となります。もし代わりに、他の目的を度外視してエンゲージメントを最大化するフィードのみを対象とするなら、それはほとんど何も禁止しないことになります。なぜなら、主要なプラットフォームはすでにエンゲージメントと品質スコア、アンケートで報告された満足度、および整合性ペナルティを組み合わせて使用しているからです。禁止は破壊的であるか、あるいは空虚であるかのどちらかです。特定の最適化制約を義務付け、監査する法律は、そのジレンマを完全に回避します。

第三に、相手はユーザー主導の選択を代替案として提案していますが、ティーンエイジャーが自分でコンテンツを選択することが安全な基準であるかのように扱っています。歴史的な記録はそうではないことを示しています。拒食症コミュニティ、自傷行為フォーラム、過激派掲示板は、現代のレコメンデーションが登場するずっと前から、初期のTumblrやメッセージボードのような検索駆動型およびフォロー駆動型のプラットフォームで繁栄していました。それらの空間は、検索や友人からのリンク共有によって見つけられました。これはまさに相手が推奨するユーザー主導の経路です。脆弱な15歳の子供が間違ったアカウントをフォローすると、その素材の時系列的な火炎放射器が送られてきて、それを中断するものは何もありません。レコメンデーションシステムは、その欠点にもかかわらず、パターンに気づき、危機リソースを注入したり、より健康的なコンテンツにリダイレクトしたりできる唯一のメカニズムです。相手はアルゴリズムをウサギの穴の源と見なしていますが、ウサギの穴はそれ以前から存在していました。アルゴリズムは、そこから這い上がる能力を持つ最初のツールなのです。

第四に、相手は強迫的な使用、睡眠障害、メンタルヘルスクライシスをランキングの確定的な結果として主張していますが、ランキングを削除することがそれらのいずれかを修正するという証拠は何も提供していません。私たちが持っている証拠は逆を示唆しています。2020年の選挙研究でScience誌に掲載された研究では、研究者たちが数万人のユーザーを時系列フィードに切り替えたところ、ユーザーはより多くの信頼できないコンテンツを目にし、測定された幸福度は改善しませんでした。睡眠障害は、通知や深夜アクセスから生じるものであり、フィードの順序ではなく、時間制限やサイレントアワーによって対処されます。ソーシャル比較は、友人たちの作り上げられた生活を見ることからもたらされますが、フォローのみのフィードはそれを集中的な形で配信します。禁止は間違った変数をターゲットにしています。

最後に、相手は禁止はソーシャルメディアそのものではなく、危険なインセンティブに線を引くと述べています。しかし、インセンティブは商業的な注目であり、時系列フィードも商業的なものです。それは単に最も頻繁に投稿する人に報酬を与えるだけです。もし本当の懸念がインセンティブであるなら、インセンティブを直接規制してください。すなわち、未成年者のフィードを滞在時間のために最適化することを禁止し、目的関数に満足度と後悔の指標を義務付け、独立した監査を義務付け、罰則を課してください。それが害が実際に存在する場所に引かれた線です。それどころか、平坦な禁止は、フィルタリング、デモション、安全のためのパーソナライゼーションを行える唯一のシステムを囲い込み、ティーンエイジャーにそれらのどれもできないフィードを手渡します。若いユーザーを保護することは、アルゴリズムを廃止することではなく、それを管理することです。

相手の最も強い点は、ランキングが有害なコンテンツの降格に役立つということです。しかし、それはエンゲージメントに基づくレコメンデーションを正当化するものではありません。プラットフォームは、視聴時間、クリック数、または共有数の予測に基づいて次に何を表示するかを選択することなく、有害なコンテンツをモデレート、削除、ラベル付け、または制限することができます。安全管理は、注意を最大化するフィードと同じものではなく、明示的な興味、購読、または教育的価値を中心に有用な発見を構築することができます。

相手はまた、時系列フィードには欠点があり、危害の証拠は混在していると主張しています。どちらの点も質問に答えていません。禁止には、スクリーニングされていない時系列フィードは必要ありません。また、平均的な効果が不確かなからといって、特にシステムが繰り返し学習し、それらがユーザーを引き付けるものを悪用する場合、脆弱な若年層に対する信頼できるリスクを消し去ることはできません。提案されている監査と混合された目標は役立つかもしれませんが、それらは中核的な商業的インセンティブを残したままにし、プラットフォームが大部分を制御している指標とシステムを一般の人々に信頼するように求めています。

この議論は、レコメンデーションが決して有用ではないかどうかということではありません。それは、自己規制がまだ形成されている発達段階にある未成年者を、エンゲージメントを最適化するフィードにさらすべきかどうかということです。さらすべきではありません。モデレーションとソーシャルメディアへのアクセスを維持しつつ、未成年者に対するエンゲージメントベースのランキングを禁止し、より安全でユーザー主導の代替手段を許可してください。相手は、アルゴリズムが利益を提供できることを示しましたが、それらの利益が若者の注意を最大化することを必要とすることを示したわけではありません。

この議論は一つの問いに集約されます。未成年者のフィードからランキングを削除することが、彼らをより安全にするのかどうかです。3回のやり取りを通じて、私の対戦相手はそのようにするとは一度も示さず、彼らの反論で認められた事実はその理由を示しています。

第一に、対戦相手の主張全体は、安全スクリーニングとランキングを切り離すことに依存しています。反論で彼らはその分離を繰り返しましたが、私が説明したメカニズムには答えませんでした。削除は明白なケースしか処理しません。ティーンエイジャーが実際に害を受けるのは、このグレーゾーンであり、それは降格によって処理されますが、降格はランキングです。時系列またはフォローのみのフィードには、投稿を少なく表示する能力はありません。私の対戦相手は、プラットフォームはエンゲージメントを予測せずに有害なコンテンツを削除またはラベル付けできると言いましたが、それは真実であり無関係です。なぜなら、ラベル付けと削除は、すでに存在し、すでにダイエット動画が摂食障害の助長にまで及ぶのを捉えきれていないツールだからです。それを捉えるレイヤーこそが、禁止によって廃止されるものです。

第二に、対戦相手の提案がどのように変化したかに注目してください。最初の発言では時系列フィードとユーザー主導の選択を呼びかけました。私が時系列フィードが低品質コンテンツへの露出を増やすことを示した後、反論では新しい選択肢を提示しました。フォロー中のアカウントのフィード、トピック選択、検索、そして明示的な興味や教育的価値に基づいたレコメンデーションです。しかし、興味や教育的価値に基づいたレコメンデーションは、アルゴリズムによるレコメンデーションフィードです。それはシグナルから教育的なものを学習しなければならず、そのシグナルはクリック、完了、返却であり、これらはエンゲージメントデータです。対戦相手は今、規制されたレコメンデーションシステムを擁護しています。これは私の立場です。彼らは禁止を主張していません。彼らは異なる目的関数を主張しており、異なる目的関数を得る方法は、それを義務付け、監査することであり、それを実行するシステムを禁止することではありません。

第三に、執行可能性について、対戦相手は、監査がプラットフォームの定義に依存するため、一律の禁止の方が監査よりも明確な線だと主張します。しかし、禁止も全く同じ定義を必要とします。規制当局は、何がエンゲージメントベースのランキングに該当するかを決定しなければならず、私はその定義が、安全分類器を捕捉するほど広範であるか、あるいは何も捕捉しないほど狭いかのどちらかであることを示しました。未成年者のフィードは、滞在時間を最適化してはならない、指定されたカテゴリの降格を含めなければならない、目的関数を公開しなければならない、そして罰則付きで独立した監査に合格しなければならないという規則は、対戦相手が3回のやり取りで定義できなかった曖昧なデザインパターンに対する禁止よりも、はるかに執行可能です。明確な線は、測定可能な行動の周りに引かれるのであり、対戦相手が定義できなかったカテゴリの周りではありません。

第四に、対戦相手は経験的証拠から撤退しました。最初の発言では、ランキングの結果として強迫的な使用、睡眠障害、精神的健康の危機を主張しました。私が、最も強力な研究は小さく一貫性のない効果を見出しており、大規模な時系列フィード実験では幸福度の改善が見られなかったと指摘したとき、彼らの反論は、平均値は脆弱な若者への害を隠す可能性があると答えました。私も同意します。そして、それはまさにレコメンデーションの議論です。誤ったアカウントをフォローしている脆弱な15歳は、中断なしにそのコンテンツの時系列的な火炎放射器を受け取ります。拒食症や自傷行為のコミュニティは、現代のランキングが存在する前に、検索主導およびフォロー主導のプラットフォームで繁栄しました。対戦相手は、その歴史に一度も答えませんでした。危険なパターンに気づき、介入できる唯一のシステムは、彼らが禁止したいと思っているシステムです。睡眠と強迫的な使用は、私が支持した静寂時間と時間制限によって対処され、フィードの順序には依存しません。

第五に、対戦相手は、年齢確認と表現の自由を、比例的な保護措置の問題として片付けました。しかし、比例的な保護措置はまだ存在せず、裁判所はすでにこの種の法律を差し止めています。なぜなら、それは合法的な言論に負担をかけ、すべてのユーザーに本人確認を要求するからです。裁判を乗り越えられず、子供たちの監視なしには実施できない禁止は、誰も保護していません。

私は、ティーンエイジャーは保護に値し、商業的な注意の最適化には制限が必要であるということに、終始同意してきました。意見の相違はツールにあります。対戦相手自身の反論は、興味ベース、品質ベースのレコメンデーションへと移行しましたが、それは廃止されたものではなく、管理されたアルゴリズムです。制約を義務付け、降格を要求し、目的を監査し、違反を罰してください。フィルタリング、降格、安全のためのパーソナライズを可能にする唯一のメカニズムを取り除き、結果としてフィルタリングされていないフィードを保護と呼んではいけません。対戦相手は、安全ツールを維持し、インセンティブを削除するように求めましたが、それらが分離可能であることを示したことはなく、これらのシステムがどのように機能するかについての我々の知識はすべて、それらが分離可能ではないことを示しています。