Proibição de feeds algorítmicos para menores

Os governos devem proibir os feeds de recomendação algorítmica para usuários menores de 18 anos. Isso não significa proibir as redes sociais para adolescentes. Significa exigir que o que os jovens veem venha de contas e comunidades que eles escolheram, exibidas em uma ordem cronológica neutra. Meu argumento se apoia em três pontos.

Primeiro, esses feeds são construídos para explorar fraquezas às quais os adolescentes são especialmente propensos. Algoritmos que otimizam o engajamento aprendem por tentativa e erro o que mantém cada usuário rolando a tela: recompensas variáveis, comparação social, indignação e novidade. Pesquisas sobre o cérebro mostram de forma consistente que as partes do cérebro adolescente sensíveis à recompensa se desenvolvem antes das áreas pré-frontais responsáveis pelo controle dos impulsos e pelo planejamento de longo prazo. Um sistema que se ajusta para maximizar o tempo no aplicativo, direcionado a um cérebro que ainda está construindo seu autocontrole, não é uma disputa justa. Já aceitamos esse raciocínio em outras áreas. Restringimos jogos de azar, publicidade de tabaco e álcool para menores porque alguns produtos se aproveitam de vulnerabilidades do desenvolvimento. Um feed infinito e personalizado, projetado para capturar a atenção, pertence à mesma categoria.

Segundo, as evidências de dano são sérias e crescentes. Desde o início da década de 2010, quando os feeds algorítmicos e os smartphones se difundiram amplamente, as taxas de depressão, ansiedade, automutilação e solidão entre adolescentes aumentaram acentuadamente em muitos países. As próprias pesquisas internas das plataformas, reveladas por denúncias de whistleblowers, constataram que os sistemas de recomendação podiam agravar problemas de imagem corporal em meninas adolescentes e direcionar usuários vulneráveis para conteúdos sobre transtornos alimentares e automutilação. O Surgeon General dos EUA emitiu um alerta sobre os riscos das redes sociais para a saúde mental dos jovens. O problema central não é um punhado de postagens ruins. É que o mecanismo de recomendação empurra ativamente uma criança cada vez mais fundo naquilo que prende sua atenção, mesmo quando esse material é prejudicial a ela.

Terceiro, um feed cronológico corrige o próprio design, e é por isso que funciona melhor do que as alternativas. Filtrar conteúdo e adicionar controles parentais são medidas úteis, mas estão sempre correndo atrás do prejuízo. Os moderadores não conseguem acompanhar bilhões de postagens, conteúdos nocivos são renomeados mais rápido do que podem ser sinalizados, e os controles parentais dependem de os pais terem o tempo, a habilidade e a consciência que muitas famílias não têm. Isso deixa as crianças mais vulneráveis como as menos protegidas. Um feed cronológico remove a força motriz por trás do dano. Os adolescentes ainda podem seguir amigos, participar de grupos de estudo, encontrar criadores de que gostam, buscar material educativo e fazer parte de comunidades. A única coisa perdida é um sistema automatizado decidindo o que colocar diante deles para maximizar o engajamento. A regra também é simples de redigir, verificar e fazer cumprir, e várias jurisdições, incluindo Nova York com seu SAFE for Kids Act, já estão avançando nessa direção.

Meu oponente dirá que os algoritmos ajudam os jovens a encontrar comunidades valiosas. Mas a descoberta não exige manipulação. A busca, os perfis seguidos, as inscrições em tópicos e as recomendações de amigos permitem que os jovens encontrem o clube de xadrez, o fórum de programação ou o grupo de apoio LGBTQ, e fazem isso nos termos do próprio adolescente. Quando um algoritmo por acaso apresenta algo útil, isso é um efeito colateral. Seu verdadeiro propósito é manter os usuários na plataforma. Não devemos aceitar um sistema prejudicial para todos só porque às vezes ele produz um bom resultado.

Esta proposta mantém totalmente intacto o acesso dos jovens à informação e uns aos outros. O que ela remove é o modelo de negócio que transforma a atenção deles em lucro à custa de sua saúde mental. Por essas razões, os governos devem proibir os feeds algorítmicos para menores.

Os governos devem proteger os menores contra feeds manipuladores, mas proibir todas as recomendações algorítmicas é uma medida grosseira demais. Um sistema de recomendação pode ajudar um adolescente a encontrar um tutorial de matemática, uma comunidade de apoio a pessoas com deficiência ou colegas que compartilham um interesse incomum. Um feed cronológico não é inerentemente mais seguro: ele ainda pode exibir conteúdo nocivo, ao mesmo tempo em que torna recursos úteis mais difíceis de encontrar.

O verdadeiro alvo deveria ser o design prejudicial, não todo uso de personalização. Os governos podem exigir que as plataformas limitem recursos viciantes, apliquem salvaguardas de conteúdo adequadas à idade, deem aos menores uma opção clara para desativar as recomendações e ofereçam controles parentais práticos. Essas regras enfrentam os riscos sem afastar os jovens das conexões educacionais e sociais que as recomendações podem ajudá-los a descobrir.

Meu oponente concorda com mais do meu argumento do que rejeita. Ele aceita que os feeds manipuladores prejudicam os menores e que os governos devem intervir. A única questão que resta é se o padrão para as crianças deve ser o feed otimizado para engajamento com algumas salvaguardas adicionadas, ou um feed neutro que os próprios jovens moldam. Vou tratar de seus três argumentos um de cada vez.

Primeiro, ele diz que as recomendações ajudam um adolescente a encontrar um tutorial de matemática, uma comunidade de apoio a pessoas com deficiência ou colegas com um interesse incomum. Minha proposta mantém abertos todos esses caminhos. Um estudante que precisa de ajuda com álgebra faz uma busca. Um adolescente que acabou de ser diagnosticado com uma condição pode buscar grupos de apoio, seguir hashtags, entrar em comunidades, se inscrever em tópicos e receber conselhos de amigos, médicos e professores. O que minha proposta remove é um feed que observa por quanto tempo os olhos de uma criança permanecem em cada postagem e serve mais do que quer que a prenda. Meu oponente não mostrou que alguém precisa desse mecanismo para encontrar um tutorial. Mostrou apenas que às vezes ele produz um. O mesmo sistema que sugere a comunidade de apoio também sugere o vídeo de dieta extrema, porque não distingue um do outro. Ele apenas mede o quanto cada um é envolvente.

Segundo, ele diz que um feed cronológico não é inerentemente mais seguro porque conteúdo nocivo ainda pode aparecer. Nenhuma regra elimina todo risco, mas essa objeção ignora de onde vem o dano. Em um feed cronológico, uma criança vê postagens de contas que escolheu seguir, na ordem em que foram publicadas. Não há um mecanismo percebendo que uma menina de quatorze anos triste se demorou em uma postagem sobre automutilação e então enviando mais dez. A toca do coelho, a escalada passo a passo rumo a conteúdos sobre transtornos alimentares ou automutilação que as próprias pesquisas internas das plataformas documentaram, é criada pela amplificação algorítmica. Retire o amplificador e uma postagem nociva continua sendo uma postagem. Ela não se torna um fluxo.

Terceiro, ele propõe atacar o design prejudicial por meio de salvaguardas de conteúdo, uma opção de desativação e controles parentais. O mecanismo de recomendação otimizado para engajamento é o design prejudicial, então seu plano deixa o problema central no lugar e pede aos reguladores que o administrem de fora. Considere cada parte:

• Salvaguardas de conteúdo significam moderar bilhões de postagens depois do fato, e conteúdos nocivos são rerrotulados mais rápido do que podem ser sinalizados. Esse é o jogo de correr atrás do prejuízo que já fracassou.
• Uma opção de desativação deixa o feed manipulador ligado por padrão e pede justamente às pessoas com menos controle dos impulsos que o desliguem. Os padrões decidem os resultados. As plataformas têm todos os motivos financeiros para esconder essa configuração, adicionar atrito a ela e empurrar os usuários de volta. O próprio argumento do meu oponente sobre a vulnerabilidade adolescente explica por que os adolescentes raramente a usarão.
• Os controles parentais protegem crianças cujos pais têm o tempo, a habilidade técnica e a consciência para usá-los. As crianças em maior risco, de lares sobrecarregados, em dificuldades ou desatentos, não recebem nada. Meu oponente não respondeu a esse problema de equidade da minha abertura.

Há também um problema de fiscalização. A abordagem dele faria os reguladores julgarem, dentro de sistemas proprietários de caixa-preta, quais tipos de personalização contam como "prejudiciais" e quais contam como "úteis". Esse critério pode ser discutido para sempre, e as plataformas vão explorar a brecha. Uma regra que diz que os feeds para menores não podem ser ordenados por dados comportamentais de engajamento é clara, pode ser auditada e já está sendo transformada em lei em lugares como Nova York.

Portanto, a escolha não é entre acesso e proteção. Sob minha proposta, os adolescentes mantêm seus amigos, suas comunidades, a busca e todos os recursos educacionais que puderem procurar. O que eles perdem é um sistema construído para transformar a atenção deles em receita. Meu oponente oferece saídas opcionais de um design prejudicial. Eu proponho remover esse design como padrão para as crianças, e é por isso que a proibição é a política mais forte.

Meu oponente tem razão ao dizer que feeds que maximizam o engajamento podem explorar vulnerabilidades dos adolescentes. Mas esse é um argumento para proibir o design manipulador, não toda recomendação algorítmica. Um sistema que sugere uma aula de matemática relevante ou um grupo de apoio moderado não é equivalente a um que ordena postagens pelo tempo previsto de rolagem. Uma proibição generalizada trata ambos da mesma forma.

As preocupações com a saúde mental são sérias, mas o aumento do sofrimento adolescente paralelamente ao uso das redes sociais não estabelece que todos os feeds personalizados o causem. As revelações das plataformas sobre recomendações nocivas sustentam regras firmes contra a amplificação de conteúdo sobre transtornos alimentares e automutilação; elas não mostram que um feed cronológico seja uma cura. Um adolescente ainda pode encontrar material nocivo por meio de contas que segue, e postagens impulsionadas pela popularidade ainda podem se espalhar por meio de amigos.

Tampouco a busca é um substituto completo para a descoberta. Um jovem que não sabe que uma comunidade útil existe não pode buscar pelo nome dela. Isso importa especialmente para adolescentes com interesses incomuns ou com pouco apoio local.

A política mais forte é proibir a otimização baseada em engajamento para menores, exigir salvaguardas de recomendação adequadas à idade e auditorias independentes, e tornar uma opção cronológica fácil de escolher por padrão. Os controles parentais devem acrescentar proteção, não carregar todo o peso. Essa abordagem mira o mecanismo que meu oponente teme, preservando ao mesmo tempo formas benéficas de os jovens encontrarem ajuda e aprenderem.

Ao final deste debate, meu oponente aceitou o núcleo do meu argumento. Sua proposta final proibiria a otimização baseada em engajamento para menores e tornaria o feed cronológico o padrão. Isso é muito próximo do que eu defendi. O que resta entre nós é estreito: as plataformas deveriam poder manter alguns sistemas de recomendação comportamental para crianças, com a promessa de que esses sistemas são do tipo "bom"? Eu digo que não, por três razões.

Primeiro, a linha que meu oponente quer traçar não pode ser fiscalizada. Ele imagina um recomendador inofensivo que sugere uma aula de matemática, separado de um nocivo que ordena postagens pelo tempo de rolagem. Em uma plataforma real, ambos são o mesmo sistema. Um recomendador construído sobre os dados comportamentais de uma criança aprende com aquilo em que ela clica, que assiste e em que se demora, e o negócio o remunera para aumentar o engajamento. Dizer que ele sugere conteúdo "relevante" é apenas dar outro nome ao engajamento. A resposta do meu oponente são auditorias de salvaguardas adequadas à idade. Isso exige que os reguladores olhem dentro de caixas-pretas proprietárias, repetidas vezes, e decidam qual personalização é aceitável. As plataformas têm os dados, os advogados e todos os motivos financeiros para forçar esse limite. Minha regra é simples: os feeds exibidos a menores não podem ser ordenados com base em seus dados comportamentais. É clara, pode ser auditada, e Nova York já a está transformando em lei. Se uma política não pode ser fiscalizada, ela não protege ninguém.

Segundo, a objeção da descoberta não se sustenta. Meu oponente diz que um adolescente não pode buscar uma comunidade que não sabe que existe. Mas minha proposta não limita a descoberta à busca. Amigos compartilham links. Professores, orientadores e médicos encaminham jovens a recursos. Comunidades indicam umas às outras. Hashtags e inscrições em tópicos mostram o que existe por aí. As plataformas ainda podem oferecer diretórios curados não personalizados, como grupos de estudo em destaque ou organizações de apoio verificadas. A única coisa que desaparece é uma máquina que rastreia o comportamento de uma criança vulnerável e decide o que mostrar a ela em seguida. Ao longo deste debate, meu oponente não deu um único exemplo de ajuda que um jovem só possa alcançar por meio de perfilamento comportamental.

Terceiro, o dano sobre o qual concordamos vem do amplificador. Meu oponente diz que um feed cronológico não é uma cura completa porque uma postagem nociva ainda pode vir de uma conta que alguém segue. Concordo. Nenhuma política elimina todo risco. Mas o perigo que ambos os lados reconheceram é a escalada: uma menina de quatorze anos triste para em uma postagem e depois recebe um fluxo constante de conteúdo sobre automutilação ou dietas extremas. As próprias pesquisas internas das plataformas documentaram essa toca do coelho, e ela acontece porque um algoritmo amplifica o conteúdo. Quando você remove o amplificador, uma postagem nociva continua sendo uma única postagem. Filtros de conteúdo e controles parentais podem lidar com o que resta, o que é muito mais fácil do que tentar conter um mecanismo projetado para empurrar mais.

Então, eis a escolha. Meu oponente oferece um meio-termo que ainda depende de empresas projetarem algoritmos que funcionem contra seu próprio modelo de negócio, de reguladores vencerem discussões sobre definições que nunca terminam, e de crianças e pais que precisam gerenciar configurações que as plataformas podem esconder. Eu ofereço uma regra clara que protege todas as crianças igualmente, independentemente do tempo ou da habilidade técnica de sua família, e mantém amizades, comunidades, busca e educação totalmente preservadas. A única coisa perdida é um sistema que transforma a atenção adolescente em receita à custa da saúde mental dos jovens. Os governos devem proibir os feeds de recomendação algorítmica para menores.

Meu oponente identificou um perigo real: feeds otimizados para manter os adolescentes rolando a tela podem amplificar material nocivo. Mas isso não justifica proibir toda recomendação algorítmica. A distinção relevante é entre otimizar para o engajamento e ajudar um jovem a encontrar uma aula relevante ou uma comunidade de apoio moderada. Uma proibição generalizada apaga essa distinção.

A busca e os feeds cronológicos continuam úteis, mas não são substitutos completos para a descoberta. Um adolescente não pode buscar um recurso que não sabe que existe, e postagens nocivas ainda podem circular por meio de contas que ele segue. Tampouco as evidências de riscos sérios à saúde mental estabelecem que toda forma de personalização seja prejudicial ou que a cronologia por si só resolva esses riscos.

Os governos podem estabelecer um padrão mais forte sem impor uma proibição generalizada: proibir a otimização baseada em engajamento para menores, exigir salvaguardas contra recomendações nocivas e auditorias independentes, e tornar o feed cronológico o padrão, com controles parentais significativos disponíveis. Isso responde diretamente às preocupações do oponente sobre adolescentes vulneráveis, opções de desativação fracas e supervisão parental desigual, preservando ao mesmo tempo a descoberta benéfica. Protejam os jovens do design manipulador, não de toda ferramenta que os ajuda a aprender e se conectar.