Plataformas a Julgamento: As empresas de redes sociais devem ser responsabilizadas pelo conteúdo dos usuários?

As plataformas de mídia social devem ser responsabilizadas legalmente pelo conteúdo prejudicial que hospedam e amplificam, pois há muito tempo deixaram de ser canais neutros e se tornaram atores editoriais ativos. Um canal neutro simplesmente transmite o que um usuário posta e o deixa lá. Não é isso que as plataformas modernas fazem. Seus algoritmos de recomendação decidem o que bilhões de pessoas veem, em que ordem e com que frequência. Eles classificam, impulsionam e injetam ativamente conteúdo em feeds precisamente porque isso maximiza o engajamento, e o engajamento é impulsionado pela indignação, medo e sensacionalismo. Quando uma empresa toma decisões deliberadas sobre o que amplificar para aumentar seus lucros, ela está tomando decisões editoriais, e decisões editoriais acarretam responsabilidade. Já submetemos todas as outras indústrias a esse padrão. Um jornal é responsável pelo que escolhe imprimir. Uma emissora responde pelo que veicula no ar. Um fabricante de automóveis responde por um projeto que causa danos previsivelmente. Não há razão principiada para que uma empresa de tecnologia de trilhões de dólares seja unicamente isenta de responsabilidade simplesmente porque o produto prejudicial é informação entregue por um algoritmo que ela construiu, ajustou e lucra com ele. As consequências dessa imunidade não são abstratas. A amplificação algorítmica acelerou mensuravelmente a disseminação de desinformação médica que custou vidas durante crises de saúde pública, alimentou campanhas de assédio coordenadas, promoveu conteúdo de autoagressão para adolescentes vulneráveis e ajudou a incitar violência no mundo real. Em cada caso, a plataforma não apenas hospedou o conteúdo; ela o recomendou ativamente às pessoas mais propensas a se inflamarem com ele. A responsabilização é a ferramenta mais poderosa que temos para alinhar o comportamento corporativo com a segurança pública. Quando um negócio arca com o custo do dano que gera, ele investe na prevenção desse dano. Quando não arca com nenhum custo, tem todo o incentivo financeiro para ignorar. A responsabilidade forçaria as plataformas a internalizar os danos que seus motores de amplificação causam, assim como a lei de responsabilidade do produto forçou os fabricantes a produzir produtos mais seguros. A questão central deste debate é simples: as empresas que mais lucram com a amplificação de conteúdo prejudicial deveriam ser as únicas a não pagar nada quando ele causa danos? A justiça e a segurança básica exigem que a resposta seja não.

Não devemos tornar as empresas de redes sociais legalmente responsáveis por praticamente tudo o que os usuários postam. Fazer isso forçaria as plataformas a um regime de censura prévia em massa, esmagaria a livre expressão e, em última análise, quebraria a internet aberta — tudo isso com pouco ganho realista na redução de danos reais.

Primeiro, escala e viabilidade. As principais plataformas processam bilhões de conteúdos todos os dias. Nenhum humano ou algoritmo pode revisar material nessa escala de forma confiável sem cometer erros massivos. A responsabilidade estrita criaria um incentivo irresistível para bloquear qualquer coisa que possa ser arriscada em vez de avaliá-la cuidadosamente. Esse padrão de "melhor prevenir do que remediar" produz a remoção excessiva de discursos legais: dissidência política, vozes minoritárias, expressão artística — precisamente o discurso que mais valorizamos proteger.

Segundo, efeitos inibidores e concentração de poder. Se as plataformas enfrentarem responsabilidade no estilo de editores, apenas as maiores empresas poderiam arcar com as equipes jurídicas e os caros sistemas de moderação ou o seguro para suportar o risco. Startups, comunidades de nicho e serviços alternativos seriam excluídos, consolidando o controle da fala em poucas mãos corporativas. A fiscalização privada de conteúdo, impulsionada pelo medo de processos judiciais em vez de normas transparentes ou legislação democrática, é um pobre substituto para proteções de liberdade de expressão baseadas em princípios.

Terceiro, precisão e devido processo. Tribunais e legisladores estão mais bem equipados do que empresas privadas para equilibrar direitos e interesses concorrentes. Transferir essa função para plataformas com fins lucrativos convida a decisões inconsistentes e opacas e ao enraizamento de prioridades comerciais (engajamento e receitas de anúncios) como política social de fato. Também remove incentivos para soluções nuançadas: remoções direcionadas para conteúdo claramente ilegal, processos rápidos de notificação e remoção, e correções de mercado e regulatórias, como transparência algorítmica e responsabilidade focada em negligência demonstrável, em vez de status de editor estrito.

Finalmente, existem alternativas que abordam os danos sem destruir a livre expressão: definições mais claras de categorias ilegais, responsabilidade mais restrita para conteúdo do qual as plataformas tenham conhecimento real e não ajam, requisitos para auditorias e transparência algorítmica, e apoio à contranarrativa e à literacia midiática. Essas abordagens preservam a internet aberta, ao mesmo tempo em que responsabilizam as plataformas onde elas realmente facilitam danos.

Em resumo, tornar as plataformas estritamente responsáveis trocaria um pouco de responsabilidade teórica por censura generalizada, concentração de mercado e perda de supervisão democrática. Devemos corrigir lacunas concretas de responsabilidade com reformas legais direcionadas, não com um instrumento contundente que silenciaria os muitos para disciplinar os poucos.

O caso do meu oponente baseia-se num espantalho e, assim que o removermos, todo o seu argumento desmorona-se. Eles atacam repetidamente a "responsabilidade objetiva por praticamente tudo o que os utilizadores publicam". Mas essa não é a minha posição, e nunca foi. Estou a defender a responsabilidade ligada ao que as plataformas fazem ativamente: classificar, promover, recomendar e amplificar conteúdo para obter lucro. O utilizador que publica é uma coisa. A empresa que pega nessa publicação e a injeta algoritmica mente em dez milhões de feeds porque a indignação impulsiona a receita publicitária é algo totalmente diferente. Portanto, permitam-me responder diretamente aos seus pontos mais fortes.

Primeiro, a objeção da escala. O meu oponente diz que ninguém consegue rever milhares de milhões de publicações. Concordo, e é irrelevante. A responsabilidade pela amplificação não exige a revisão de todas as publicações, tal como um casino não precisa de inspecionar cada dólar para ser responsabilizado por manipular uma máquina caça-níqueis. As plataformas não amplificam conteúdo por acidente. Elas constroem, ajustam e otimizam os próprios algoritmos que decidem o que se espalha. Não lhes pedimos para ler tudo. Pedimos-lhes que sejam responsáveis pela máquina que deliberadamente projetaram e da qual lucram. Elas têm conhecimento e controlo totais sobre essa máquina. A "escala" por trás da qual se escondem é uma escala que elas fabricaram e monetizaram.

Segundo, a alegação de censura e efeito inibidor. Reparem na malabarismo: o meu oponente assume que a responsabilização só pode significar a remoção indiscriminada de discursos legais. Mas todas as outras indústrias responsáveis desmentem isso. Jornais e emissoras enfrentam responsabilidade e, no entanto, o jornalismo robusto sobrevive, na verdade, prospera precisamente porque as consequências forçam a qualidade em vez da imprudência. A responsabilidade não silencia o discurso; remove o incentivo de lucro para armar e superpotenciar o pior dele. O "efeito inibidor" que eles temem já existe, só que inibe as vítimas de assédio, desinformação e promoção de auto-mutilação, que hoje não têm recurso.

Terceiro, concentração de mercado. Este argumento vai contra o meu oponente. O atual regime de imunidade é exatamente o que construiu os monopólios de um bilião de dólares de hoje. O isolamento legal total permitiu que um punhado de empresas crescesse sem responsabilização e sem contestação. A responsabilização não consolida gigantes; disciplina-os, tal como fez na indústria farmacêutica, automóvel e financeira.

Finalmente, o meu oponente concede todo o debate. Admitem que as plataformas devem enfrentar "responsabilidade por conteúdo do qual tenham conhecimento real e não ajam", devem estar sujeitas a "auditorias algorítmicas" e devem responder por "negligência demonstrável". Essa é a minha posição. Assim que aceita que as plataformas podem ser responsabilizadas pelas suas escolhas algorítmicas, abandonou a ficção do canal neutro e juntou-se ao meu lado. A única questão que resta é quão robusta deve ser essa responsabilização e, dados os corpos documentados resultantes de conteúdo de auto-mutilação amplificado, desinformação médica e violência incitada, a resposta deve ser: robusta o suficiente para realmente mudar o comportamento.

Você tem razão em destacar os graves danos causados pelo design das plataformas. Não nego que as plataformas amplificam conteúdo perigoso. Mas o salto do oponente de “as plataformas causam danos” para “torná-las editoras rigorosas” ignora as trocas catastróficas e os limites práticos dessa solução.

Primeiro, a escala não é um inconveniente menor; é a restrição definidora. Bilhões de postagens diárias significam que qualquer regra que crie responsabilidade objetiva incentivará a remoção automatizada e hiperabrangente. Algoritmos otimizados para evitar riscos suprimirão a fala ambígua, mas legal — dissidência política, perspectivas minoritárias, arte, jornalismo — muito mais do que o material claramente ilegal, relativamente mais raro, que o oponente busca impedir. Isso não é teórico: as plataformas sob pressão já removem em excesso quando os custos de erro são altos.

Segundo, a responsabilidade objetiva centraliza o poder. Diante da exposição a processos ilimitados, apenas as maiores empresas podem arcar com os custos legais, seguros e o pesado aparato de moderação. Isso consolida o controle do discurso público em poucas empresas privadas com políticas opacas, em vez de distribuir a fala por serviços diversos ou permitir que startups experimentem diferentes normas de moderação.

Terceiro, a responsabilidade por si só não atinge os mecanismos reais de dano. O oponente trata toda amplificação como equivalente. Mas a lei pode (e deve) distinguir: responsabilizar as plataformas quando elas promovem conscientemente conteúdo ilegal, quando projetam sistemas para recompensar comportamentos claramente prejudiciais, ou quando são negligentes em responder a avisos específicos e acionáveis. Esse padrão focado de negligência ou conhecimento atinge a culpabilidade sem exigir a supressão pré-publicação de tudo que seja remotamente controverso.

Quarto, efeitos perversos de migração importam. Se as plataformas convencionais forem forçadas a uma moderação prévia extrema, usuários e maus atores fugirão para aplicativos criptografados e redes de nicho onde o conteúdo prejudicial é mais difícil de detectar e as autoridades não podem intervir — tornando os danos reais piores, não melhores.

Finalmente, existem reformas praticáveis e proporcionais que preservam a liberdade de expressão ao mesmo tempo em que aumentam a responsabilização: condicionar os portos seguros a práticas de moderação transparentes e demonstráveis; exigir auditorias algorítmicas e divulgação de sinais de amplificação para revisão independente; exigir notificação e remoção tempestivas para conteúdo claramente ilegal com direitos de apelação; e adotar um padrão de negligência/conhecimento para responsabilidade civil em vez de status de editor rigoroso. Essas medidas mudam os incentivos e podem ser aplicadas sem converter as plataformas em máquinas de censura.

O oponente identifica problemas que merecem soluções, mas a responsabilidade objetiva de editor é um instrumento contundente que suprimiria a fala legal, entrincheiraria gatekeepers corporativos e levaria os danos a canais menos visíveis. Um caminho melhor são regras direcionadas que alinham os incentivos, preservam o devido processo legal e focam a responsabilidade onde as plataformas agem com conhecimento ou descaso imprudente — não uma reclassificação completa que quebra a internet aberta que valorizamos.

Este debate termina com um veredito que meu oponente me entregou. Remova a retórica e você descobrirá que o lado oposto passou duas rodadas argumentando contra uma posição que eu nunca tomei, enquanto secretamente admitia a posição que eu realmente defendi.

Veja o que meu oponente agora endossa abertamente: responsabilizar as plataformas quando elas promovem conscientemente conteúdo ilegal, quando projetam sistemas para recompensar comportamentos prejudiciais, quando são negligentes em responder a notificações. Eles exigem auditorias algorítmicas, divulgação de sinais de amplificação e um padrão de negligência e conhecimento para responsabilidade civil. Esse é precisamente o meu caso. No momento em que você concorda que uma plataforma pode ser responsabilizada pelo que seu algoritmo impulsiona deliberadamente, você abandonou completamente a ficção do canal neutro. A única disputa restante é quão forte deve ser essa responsabilidade, e em todos os testes que importam, meu lado prevalece.

Considere os três pilares do argumento deles e por que cada um falhou. Primeiro, escala. Eu mostrei que a responsabilidade pela amplificação não requer a leitura de bilhões de postagens, apenas a responsabilidade pela máquina de engajamento que a empresa construiu, ajustou e lucra com ela. Meu oponente nunca respondeu a isso. Eles simplesmente repetiram a palavra "escala" como se o volume apagasse a agência. Não apaga. Uma empresa que projeta um sistema para injetar conteúdo inflamatório em dez milhões de feeds não pode se esconder atrás do tamanho do dano que fabricou.

Segundo, censura. Todo o medo do efeito inibidor assume que a responsabilidade só pode significar a remoção indiscriminada de fala legal. Todas as outras indústrias responsáveis provam o contrário. Jornais, emissoras, fabricantes de medicamentos e fabricantes de automóveis enfrentam responsabilidade, e nenhum deles foi forçado ao silêncio ou à extinção. Eles foram forçados à responsabilidade. O verdadeiro efeito inibidor já existe hoje, e recai sobre as vítimas de assédio, desinformação médica e conteúdo de autoagressão que atualmente não têm recurso algum.

Terceiro, concentração de mercado. Este argumento desmorona ao contato, porque o atual regime de imunidade é exatamente o que construiu os gigantes irresponsáveis de um trilhão de dólares que agora enfrentamos. O isolamento legal total criou os monopólios. A responsabilidade os disciplina, como aconteceu em todas as indústrias regulamentadas da história.

A retirada final do meu oponente foi o argumento da migração, alegando que os maus atores fugirão para redes de nicho. Mas isso concede o ponto: admite que a amplificação principal é o motor do dano em massa, e remover o incentivo de lucro desse motor é exatamente o objetivo. Uma campanha de assédio em um aplicativo de nicho criptografado atinge milhares. O mesmo conteúdo, superalimentado algoritmicamente por uma plataforma principal, atinge milhões. Diminuir o megafone é uma vitória, não uma falha.

Assim, voltamos à questão no centro deste debate. As empresas que mais lucram com a amplificação de conteúdo prejudicial devem ser os únicos atores em toda a nossa economia que não pagam nada quando essa amplificação mata, radicaliza ou destrói? Meu oponente não conseguiu dizer sim. Eles admitiram que as plataformas devem responder por suas escolhas algorítmicas. Eles simplesmente não tiveram coragem de tornar essa responsabilidade forte o suficiente para importar. Dados os corpos documentados de conteúdo de autoagressão amplificado, desinformação médica letal e violência incitada no mundo real, medidas paliativas não são justiça. Responsabilidade robusta é. A responsabilidade deve ser forte o suficiente para realmente mudar o comportamento, e é por isso que meu lado deve prevalecer.

Fecho: Meu oponente tem razão em identificar danos reais, por vezes trágicos, ligados ao design das plataformas — desinformação, assédio e amplificação algorítmica têm consequências. Mas a sua cura (reclassificar as plataformas como editoras com responsabilidade ampla) é um instrumento grosseiro que causaria muito mais danos do que previne. A responsabilidade estrita de editor compeliria à censura pré-publicação em massa, incentivaria a remoção excessiva de dissidências legais e vozes minoritárias, concentraria o controlo da fala em poucas empresas que podem suportar o risco legal e empurraria a atividade prejudicial para espaços encriptados ou marginais onde é mais difícil de mitigar.

O oponente enquadra repetidamente a questão como uma escolha binária entre imunidade total e responsabilidade total de editor. Essa é uma falsa dicotomia. Podemos e devemos responsabilizar as plataformas pelos danos que ativamente permitem — por exemplo, quando promovem deliberadamente conteúdo ilegal, projetam sistemas que recompensam comportamentos comprovadamente prejudiciais ou ignoram negligentemente notificações acionáveis — sem as converter em censores omniscientes. A minha posição mantém a responsabilização direcionada: condicionar os portos seguros a práticas de moderação transparentes; adotar um padrão de negligência/conhecimento para responsabilidade civil; exigir auditorias algorítmicas, transparência sobre sinais de amplificação, notificação e remoção atempadas com direitos de recurso; e criar mecanismos de fiscalização que punam escolhas de design imprudentes em vez de fala ambígua.

O oponente argumentou que a escala é irrelevante porque as plataformas construíram as máquinas que amplificam o conteúdo. A escala é precisamente a razão pela qual o remédio importa. Leis que ignoram quantos milhares de milhões de publicações fluem diariamente produzirão escolhas de segurança por defeito por parte de atores privados — ou seja, fechar a torneira da fala legal. Devemos mudar os incentivos sem criar um sistema que dê às empresas privadas poder editorial irrestrito. A sua própria concessão — endossando a responsabilidade por conteúdo que as plataformas conhecem ou permitem negligentemente — valida o caminho intermédio que delineei.

Em suma, todos queremos que as plataformas parem de amplificar danos reais. Mas reclassificá-las como editoras trocaria uma internet aberta e pluralista por censura pesada, maior concentração de mercado e menos transparência. Reformas legais direcionadas que liguem a responsabilidade ao conhecimento, à negligência e a práticas de amplificação específicas reduzirão os danos, preservando a liberdade de expressão, a concorrência e a supervisão democrática. O oponente mostrou o problema, mas falhou em justificar as trocas catastróficas da sua solução proposta; a minha abordagem responsabiliza as plataformas onde elas merecem, sem quebrar a internet aberta de que precisamos.