Proibição de feeds de recomendação algorítmica para menores

Os feeds de recomendação baseados em engajamento devem ser proibidos para menores de dezoito anos porque otimizam a atenção, não o bem-estar dos jovens. Adolescentes ainda estão desenvolvendo o controle de impulsos e a regulação emocional, o que os torna especialmente vulneráveis a sistemas que aprendem quais vídeos, posts ou prompts os manterão rolando – e, em seguida, servem mais deles. O resultado pode ser o uso compulsivo, sono interrompido, intensificação da comparação social e exposição repetida a material de automutilação, transtornos alimentares ou outro material prejudicial.

As plataformas podem argumentar que a personalização pode apresentar conteúdo educacional e filtrar material inseguro. Esses são objetivos legítimos, mas não exigem a classificação de conteúdo por engajamento previsto. Sistemas de segurança apropriados para a idade podem operar sem um feed projetado para maximizar tempo e interação; feeds cronológicos e escolhas dirigidas pelo usuário oferecem alternativas viáveis. Uma proibição legal visaria o incentivo perigoso e o padrão de design, não proibir redes sociais ou conteúdo útil. Quando os riscos surgem da otimização da atenção dos menores para o engajamento comercial, proteger os jovens usuários exige traçar essa linha.

Obrigado. Argumentarei que uma proibição legal de feeds de recomendação algorítmica para usuários menores de dezoito anos é a ferramenta errada para um problema real e que tornaria os jovens menos seguros, não mais.

Primeiro, considere com o que a proibição realmente substitui os algoritmos. A alternativa prática é um feed cronológico ou apenas de acompanhamento. Um feed cronológico não é neutro; é simplesmente curadoria de quem posta com mais frequência e mais recentemente. Pesquisas em plataformas que testaram a ordenação cronológica, incluindo experimentos internos da Meta publicados na Science em 2023, descobriram que os feeds cronológicos aumentaram a exposição a conteúdo não confiável e de baixa qualidade. Para um jovem de quatorze anos, isso significa mais spam, mais viralidade bruta e mais conteúdo que nenhum sistema avaliou. Os sistemas de classificação são a camada onde as plataformas rebaixam material de autoagressão, diminuem o conteúdo de transtornos alimentares, suprimem o contato de adultos desconhecidos e exibem recursos de crise. Remova essa camada por lei e você remove o principal mecanismo de segurança, deixando o conteúdo prejudicial intocado.

Segundo, a personalização é como o conteúdo benéfico realmente chega aos jovens. Um adolescente interessado em codificação, teoria musical, ciência climática ou gerenciamento de ansiedade tem muito mais probabilidade de encontrar criadores de alta qualidade por meio de recomendação do que por meio de um feed limitado a contas que eles já seguem. A Pew Research consistentemente descobre que a maioria dos adolescentes diz que as mídias sociais os ajudam a se sentir mais conectados e lhes dão um lugar para mostrar criatividade e encontrar apoio. A recomendação é o que faz uma plataforma descobrir uma comunidade de apoio LGBTQ, um canal de tutoria ou um recurso de saúde mental para uma criança que nunca saberia procurar. Um mundo apenas de acompanhamento prende os adolescentes ao que seu círculo social existente já compartilha, que muitas vezes é o conteúdo menos diversificado e menos educativo disponível.

Terceiro, o caso oposto se baseia em tratar todos os algoritmos como uma única coisa chamada maximização de engajamento. Essa é uma imagem falsa. Os sistemas de classificação modernos otimizam para muitos sinais, incluindo satisfação relatada pelo usuário, pesquisas de arrependimento, limites de tempo de uso e classificadores de qualidade. As plataformas já executam modelos específicos para adolescentes que restringem categorias sensíveis, definem contas privadas por padrão e limitam notificações noturnas. A medida regulatória correta é exigir e auditar essas escolhas de design: exigir que os feeds dos menores excluam certas categorias de conteúdo, exigir transparência sobre os alvos de otimização, exigir auditorias independentes de segurança e impor penalidades reais por violações. Essa é uma regulamentação direcionada e baseada em evidências. Uma proibição geral descarta a ferramenta que poderia ser governada em favor de um feed que não pode ser governado de forma alguma.

Quarto, o caso empírico para uma proibição é mais fraco do que parece. Os estudos mais fortes sobre saúde mental de adolescentes e mídias sociais, incluindo as grandes meta-análises de Orben e Przybylski e o conselho da American Psychological Association de 2023, encontram efeitos pequenos e inconsistentes que dependem do conteúdo e do contexto, não da mera presença de classificação. A APA recomenda explicitamente adaptar recursos ao estágio de desenvolvimento, não eliminar a recomendação. Se o dano vem de conteúdo específico e padrões de design específicos, a lei deve visar esses, não a capacidade geral de classificar informações.

Finalmente, uma proibição é impraticável e contraproducente na prática. Requer verificação de idade intrusiva para todos os usuários, o que cria riscos de privacidade para crianças e adultos. Leva os adolescentes a plataformas fora do espaço regulamentado ou para contas de adultos sem proteções. E seria um grave ônus à liberdade de expressão, razão pela qual os tribunais nos Estados Unidos já suspenderam leis estaduais semelhantes.

A questão não é se os adolescentes merecem proteção. Eles merecem. A questão é se remover o único sistema capaz de filtrar, rebaixar e personalizar para segurança os torna mais seguros. Não torna. Regule o algoritmo, audite o algoritmo, restrinja o algoritmo, mas não proíba a única ferramenta que pode realmente proteger.

O caso do oponente confunde duas funções diferentes: a triagem de conteúdo para segurança e a sua classificação para maximizar o engajamento. As plataformas podem remover ou rotular material prejudicial, restringir o contato de adultos e fornecer recursos de crise sem prever qual conteúdo manterá um adolescente rolando. Um feed cronológico não é a única alternativa; as plataformas podem oferecer feeds de contas seguidas, tópicos selecionados pelo usuário, pesquisa e recomendações baseadas em interesses explícitos ou valor educacional, em vez de sinais de engajamento.

Nem a evidência de que um feed cronológico pode apresentar postagens de baixa qualidade prova que a classificação por engajamento torna os menores mais seguros. Os mesmos sistemas podem amplificar material sensacionalista e emocionalmente provocativo precisamente porque gera interação. A moderação pode reduzir alguns riscos, mas não apaga o incentivo subjacente de servir repetidamente o que quer que capture a atenção. As auditorias e medidas de qualidade propostas pelo oponente dependem das definições, dados e aplicação das plataformas — áreas onde os de fora têm visibilidade limitada. Uma proibição clara da classificação baseada em engajamento para menores é um limite mais aplicável, enquanto a moderação de segurança permanece intacta.

A personalização pode ajudar os jovens a descobrir comunidades úteis e material educacional, mas esse benefício não depende da otimização do tempo de exibição ou das reações. Pode ser entregue por meio de pesquisas deliberadas, assinaturas ou recomendações não baseadas em engajamento. E as descobertas de pequenos efeitos médios não resolvem a questão: os resultados médios podem obscurecer danos graves para adolescentes vulneráveis e padrões particulares de uso, incluindo interrupção do sono e rolagem compulsiva. Proteger menores não requer provar que todos os adolescentes são prejudicados; requer evitar um design que explore previsivelmente a autorregulação em desenvolvimento em troca de atenção comercial.

As preocupações com a garantia de idade e a liberdade de expressão merecem salvaguardas cuidadosas, mas são razões para projetar uma aplicação proporcional e que preserve a privacidade — não razões para preservar feeds que maximizam o engajamento. O oponente mostrou que a recomendação pode ser útil, não que os menores precisam de feeds classificados por engajamento para receber conteúdo útil ou seguro. Mantenha as ferramentas de segurança; remova o incentivo de maximização da atenção.

A alegação central do meu oponente é que a filtragem de segurança e a personalização benéfica podem ser separadas da classificação, permitindo-nos manter as primeiras e proibir a segunda. Essa alegação não resiste ao contato com o funcionamento real desses sistemas e, uma vez que ela cai, o argumento para a proibição também cai.

Comecemos pela suposta separação. A filtragem de material inadequado para a idade não é um portão binário que fica separado do feed. Apenas uma pequena fração de conteúdo prejudicial é clara o suficiente para ser removida imediatamente. A vasta zona cinzenta, como conteúdo de dieta que se inclina para a promoção de distúrbios alimentares, vídeos de humor triste que se inclinam para a glorificação da automutilação, ou conteúdo de fitness que se inclina para a dismorfia corporal, é tratada por rebaixamento: atribuindo uma pontuação menor para que atinja menos adolescentes. O rebaixamento é classificação. Um feed cronológico não pode rebaixar nada; ele mostra cada postagem de cada conta seguida na ordem em que chegou, sem a capacidade de dizer que esta deve aparecer menos. Portanto, quando meu oponente diz que os sistemas de segurança podem operar sem um feed projetado em torno da classificação, a resposta honesta é que os sistemas de segurança são a classificação. Proíba a classificação e você mantém o portão binário que pega os casos óbvios e perde a camada que lida com todo o resto.

Em segundo lugar, considere o problema de definição que o oponente nunca aborda. O que conta como um feed baseado em engajamento? Todo sistema de classificação funcional usa algum sinal de engajamento, pois cliques, tempo de exibição e compartilhamentos são como um modelo aprende que um vídeo de tutoria é útil e uma postagem de spam não é. Se a proibição abrange qualquer feed que use sinais de engajamento, ela também abrange os classificadores de segurança, pois eles são treinados com os mesmos dados. Se, em vez disso, ela abrange apenas feeds que maximizam o engajamento em detrimento de outros objetivos, então ela proíbe quase nada, pois as principais plataformas já misturam engajamento com pontuações de qualidade, satisfação relatada por pesquisas e penalidades de integridade. Ou a proibição é destrutiva ou é vazia. Uma lei que exige restrições específicas de otimização e as audita evita completamente esse dilema.

Em terceiro lugar, o oponente propõe escolhas dirigidas pelo usuário como alternativa, como se adolescentes escolhendo seu próprio conteúdo fossem a base segura. O registro histórico diz o contrário. Comunidades pró-anorexia, fóruns de automutilação e quadros extremistas floresceram em plataformas impulsionadas por busca e por seguir, como o Tumblr antigo e quadros de mensagens, muito antes da recomendação moderna existir. Esses espaços eram encontrados pesquisando e por amigos compartilhando links, exatamente o caminho dirigido pelo usuário que meu oponente endossa. Um adolescente vulnerável de quinze anos que segue as contas erradas recebe uma enxurrada cronológica desse material sem nada no meio para interrompê-lo. Sistemas de recomendação, com todas as suas falhas, são o único mecanismo que pode notar o padrão e injetar recursos de crise ou redirecionar para conteúdo mais saudável. O oponente trata o algoritmo como a fonte da toca de coelho, mas a toca de coelho é anterior a ele; o algoritmo é a primeira ferramenta com a capacidade de sair dela.

Em quarto lugar, o oponente afirma o uso compulsivo, o sono perturbado e as crises de saúde mental como consequências estabelecidas da classificação, mas não apresentou evidências de que a remoção da classificação resolva algum desses problemas. As evidências que temos apontam na direção oposta. Quando pesquisadores mudaram dezenas de milhares de usuários para feeds cronológicos nos estudos eleitorais de 2020 publicados na Science, os usuários viram mais conteúdo não confiável e seu bem-estar medido não melhorou. A interrupção do sono vem de notificações e acesso noturno, que são abordados por limites de tempo e horários de silêncio, não pela ordem do feed. A comparação social vem de ver as vidas curadas dos colegas, que um feed apenas de seguidores entrega em forma concentrada. A proibição atinge a variável errada.

Finalmente, o oponente diz que uma proibição traça uma linha no incentivo perigoso em vez da própria mídia social. Mas o incentivo é a atenção comercial, e um feed cronológico também é comercial; ele simplesmente recompensa quem posta com mais frequência. Se a preocupação real é o incentivo, regule o incentivo diretamente: proíba a otimização de feeds de menores para tempo gasto, exija métricas de satisfação e arrependimento na função objetivo, exija auditorias independentes e imponha penalidades. Essa é uma linha traçada onde o dano realmente vive. Uma proibição total, em vez disso, traça-a em torno do único sistema que pode filtrar, rebaixar e personalizar para segurança, e entrega aos adolescentes um feed que não pode fazer nada disso. Proteger jovens usuários significa governar o algoritmo, não aboli-lo.

O ponto mais forte do oponente é que a classificação pode ajudar a rebaixar material prejudicial. Mas isso não justifica a recomendação baseada em engajamento: as plataformas podem moderar, remover, rotular ou limitar conteúdo prejudicial sem escolher o que mostrar em seguida por tempo de exibição previsto, cliques ou compartilhamentos. Controles de segurança não são a mesma coisa que um feed que maximiza a atenção, e a descoberta útil pode ser construída em torno de interesses explícitos, assinaturas ou valor educacional.

O oponente também argumenta que os feeds cronológicos têm desvantagens e que as evidências de danos são mistas. Nenhum dos pontos responde à pergunta. Uma proibição não precisa exigir um feed cronológico não filtrado, e efeitos médios incertos não apagam riscos credíveis para adolescentes vulneráveis — especialmente quando os sistemas aprendem e exploram repetidamente o que os mantém engajados. As auditorias propostas e os objetivos mistos podem ajudar, mas eles deixam o incentivo comercial central no lugar e pedem ao público que confie em métricas e sistemas que as plataformas controlam em grande parte.

Este debate não é sobre se a recomendação pode ser útil. É sobre se os menores devem ser submetidos a feeds que otimizam o engajamento durante um período de desenvolvimento em que a autorregulação ainda está se formando. Eles não devem. Preserve a moderação e o acesso às mídias sociais, mas proíba a classificação baseada em engajamento para menores e permita alternativas mais seguras e direcionadas pelo usuário. O oponente mostrou que os algoritmos podem oferecer benefícios; não que esses benefícios exijam maximizar a atenção dos jovens.

Este debate se resume a uma pergunta: remover a classificação dos feeds de menores os torna mais seguros? Ao longo de três rodadas, meu oponente nunca mostrou que sim, e o terreno cedido em sua refutação explica por quê.

Primeiro, todo o caso do oponente depende da separação da triagem de segurança da classificação. Na refutação, eles reafirmaram essa separação, mas nunca responderam ao mecanismo que descrevi. A remoção lida apenas com os casos claros. A zona cinzenta, que é onde os adolescentes são realmente prejudicados, é tratada pela rebaixamento, e o rebaixamento é classificação. Um feed cronológico ou apenas de acompanhamento não tem capacidade de mostrar um post menos. Meu oponente disse que as plataformas podem remover ou rotular material prejudicial sem prever o engajamento, o que é verdade e irrelevante, porque a rotulagem e a remoção são exatamente as ferramentas que já existem e já falham em capturar o vídeo de dieta que se inclina para a promoção de transtornos alimentares. A camada que o captura é aquela que a proibição abole.

Segundo, note como a proposta do oponente mudou. A abertura pedia feeds cronológicos e escolhas dirigidas pelo usuário. A refutação, depois que mostrei que feeds cronológicos aumentam a exposição a conteúdo de baixa qualidade, ofereceu um novo menu: feeds de contas seguidas, seleção de tópicos, pesquisa e recomendações baseadas em interesses explícitos ou valor educacional. Mas uma recomendação baseada em interesses e valor educacional é um feed de recomendação algorítmica. Ela deve aprender o que é educacional a partir de sinais, e esses sinais são cliques, conclusões e retornos, que são dados de engajamento. O oponente agora está defendendo um sistema de recomendação regulamentado, que é minha posição. Eles não argumentaram por uma proibição; eles argumentaram por uma função objetivo diferente, e a maneira de obter uma função objetivo diferente é mandatar e auditar, não proibir o sistema que a executaria.

Terceiro, sobre a aplicabilidade, o oponente afirma que uma proibição total é uma linha mais clara do que auditorias porque as auditorias dependem de definições de plataforma. Mas a proibição exige exatamente a mesma definição: um regulador deve decidir o que conta como classificação baseada em engajamento, e mostrei que essa definição é tão ampla que captura os classificadores de segurança ou tão estreita que não captura nada. Uma regra que diz que os feeds de menores não podem otimizar o tempo gasto, deve incluir o rebaixamento de categorias especificadas, deve publicar sua função objetivo e deve passar por auditoria independente com penalidades é muito mais aplicável do que uma proibição vaga de um padrão de design que ninguém definiu. Linhas claras são traçadas em torno de conduta mensurável, não em torno de uma categoria que o oponente não conseguiu definir em três rodadas.

Quarto, o oponente recuou das alegações empíricas. Sua abertura afirmou uso compulsivo, interrupção do sono e crises de saúde mental como consequências da classificação. Quando apontei que a pesquisa mais forte encontra efeitos pequenos e inconsistentes, e que os grandes experimentos de feed cronológico não produziram melhoria no bem-estar, sua refutação respondeu que as médias podem esconder danos a adolescentes vulneráveis. Concordo, e esse é precisamente o argumento para a recomendação. O adolescente vulnerável de quinze anos que segue as contas erradas recebe uma enxurrada cronológica desse conteúdo sem interrupção. Comunidades pró-anorexia e de automutilação floresceram em plataformas impulsionadas por pesquisa e por seguidores antes que a classificação moderna existisse. O oponente nunca respondeu a essa história. O único sistema que pode notar um padrão perigoso e intervir é aquele que eles querem proibir. Sono e uso compulsivo são abordados por horários de silêncio e limites de tempo, que endossei e que não dependem da ordem do feed.

Quinto, o oponente dispensou a verificação de idade e a liberdade de expressão como questões para salvaguardas proporcionais. Mas salvaguardas proporcionais ainda não existem, e os tribunais já ordenaram leis desse tipo porque o ônus recai sobre a fala legal e exige verificação de identidade de todos os usuários. Uma proibição que não sobrevive a um tribunal e não pode ser implementada sem vigiar crianças não está protegendo ninguém.

Concordei ao longo do tempo que os adolescentes merecem proteção e que a otimização da atenção comercial precisa de limites. A discordância é sobre a ferramenta. A própria refutação do meu oponente derivou para recomendação baseada em interesses e qualidade, que é um algoritmo governado, não um abolido. Mandate as restrições, exija os rebaixamentos, audite os objetivos e puna as violações. Não retire a única ferramenta capaz de filtrar, rebaixar e personalizar para segurança e chame o feed resultante não filtrado de proteção. O oponente pediu para manter as ferramentas de segurança e remover o incentivo, mas eles nunca mostraram que são separáveis, e tudo o que sabemos sobre como esses sistemas funcionam diz que não são.