Responsabilização nas Redes Sociais: As Plataformas Devem Ser Legalmente Responsáveis pelo Conteúdo dos Usuários?

Sejamos claros sobre o que estamos a debater: não se um bibliotecário deve ser processado por um livro na sua prateleira, mas sim se uma empresa que constrói algoritmos especificamente concebidos para selecionar, classificar e impulsionar conteúdo para milhares de milhões de pessoas a cada segundo deve responder pelos danos previsíveis que esse design causa. Essa distinção é todo o caso.

As plataformas hoje não são canos neutros. São editores em todos os sentidos significativos, exceto no nome legal. A cada segundo, um algoritmo decide qual a publicação que 10.000 pessoas verão a seguir, e otimiza essa decisão para uma coisa: o envolvimento. Décadas de investigação interna, documentos vazados e estudos independentes convergem para a mesma conclusão — a indignação, o medo e a divisão são as emoções mais envolventes, pelo que o algoritmo amplifica sistematicamente o conteúdo mais inflamatório. Essa é uma escolha editorial, feita em escala, milhões de vezes por minuto. Quando um editor humano num jornal faz escolhas análogas sobre o que publicar na primeira página, ele é responsável por difamação, incitamento e danos. Não há razão de princípio para que uma máquina que faz o mesmo tipo de julgamento curatorial deva ser isenta simplesmente porque é automatizada e lucrativa numa escala muito maior.

Isto não se trata de punir a opinião de um utilizador — trata-se de punir a decisão de negócio de uma empresa de amplificar essa opinião para obter lucro, mesmo depois de ter sido avisada de que está a causar danos mensuráveis: contágio de suicídio adolescente ligado a conteúdo impulsionado por algoritmos, violência étnica alimentada por campanhas de desinformação não controladas e assédio coordenado que as plataformas têm as ferramentas para detetar, mas nenhum incentivo legal para parar.

A responsabilidade não significa que as plataformas devam pré-selecionar cada publicação antes de aparecer — essa espantalha ignora como os regimes de responsabilidade adaptados funcionam realmente, como os deveres de notificação e correção ou a responsabilidade ligada especificamente à amplificação algorítmica em vez da mera hospedagem. O que significa é que as plataformas finalmente têm um custo real pela negligência, em vez de tratar o dano como um problema de relações públicas a ser gerido com um pedido de desculpas num post de blogue.

Neste momento, as plataformas externalizam os custos do seu design de maximização de envolvimento para a sociedade — crises de saúde mental, radicalização, desinformação eleitoral — enquanto capturam 100% do lucro publicitário gerado por esse mesmo design. Essa é uma assimetria indefensável. A responsabilidade legal simplesmente força as plataformas a internalizar os custos das escolhas que já estão a fazer. Se isso significa investir recursos sérios em moderação, verificar a proveniência de conteúdo viral ou redesenhar algoritmos para parar de recompensar o material mais extremo, isso não é um desastre para a liberdade de expressão — é uma responsabilização há muito esperada para os arquitetos da praça pública moderna.

Declaração de abertura — posição B:

Responsabilizar legalmente as plataformas de redes sociais pelo discurso dos seus utilizadores causaria muito mais mal do que bem. Por mais bem-intencionada que seja a meta — reduzir o ódio, a desinformação e o assédio — tornar as plataformas editoras por lei criaria incentivos poderosos para a remoção excessiva, concentraria o controlo nas maiores empresas, sufocaria a concorrência e a inovação e, em última análise, erodiria a livre troca de ideias.

Primeiro, a responsabilidade produz um efeito de arrefecimento previsível. Confrontadas com potenciais processos judiciais, as empresas escolherão a forma mais barata e rápida de evitar o risco: remoções gerais e filtragem agressiva pré-publicação. Filtros automatizados e moderação humana conservadora suprimem inevitavelmente pontos de vista legítimos, controversos ou minoritários juntamente com conteúdo prejudicial. O resultado é um discurso público mais restrito, não mais seguro.

Segundo, a responsabilidade entrincheiraria os incumbentes. As grandes plataformas podem pagar exércitos de advogados, sistemas de conformidade dispendiosos e o próprio risco legal. Pequenas startups, fóruns de nicho e espaços cívicos sem fins lucrativos não podem. Impor responsabilidade do tipo editorial levanta, portanto, a barreira de entrada e confere mais poder a poucas empresas dominantes — exatamente o oposto do que os reformadores muitas vezes desejam.

Terceiro, transformar empresas privadas em reguladores de facto do discurso é perigoso para a governação democrática. Os tribunais e as legislaturas, e não as empresas de tecnologia guiadas por algoritmos opacos e incentivos comerciais, devem definir os limites do discurso legal. A responsabilidade terceirizaria a política pública para empresas que priorizam o envolvimento e a receita, criando padrões inconsistentes e não transparentes aplicados de forma desigual entre os utilizadores.

Quarto, a incerteza jurídica e os custos de conformidade desviariam recursos de soluções construtivas. Em vez de investir em intervenções direcionadas — melhorar a qualidade da moderação, a transparência, os controlos do utilizador, processos mais fortes de notificação e remoção, auditorias algorítmicas e aplicação contra comportamento ilegal demonstrável — as plataformas gastariam enormes somas em evitar litígios. Estes são problemas técnicos e de política melhor resolvidos por regras e padrões focados do que por responsabilidade contundente.

Finalmente, existem alternativas mais inteligentes que abordam os danos sem silenciar o discurso: definições mais claras de conteúdo ilegal, deveres exequíveis para a transparência e auditabilidade das plataformas, requisitos para mitigar a amplificação algorítmica de conteúdo prejudicial verificado e apoio a concorrentes menores para construir ecossistemas mais seguros. Essas medidas preservam o diálogo aberto enquanto responsabilizam as plataformas pelas escolhas de design, e não por cada declaração de milhares de milhões de utilizadores.

Por essas razões, tornar as plataformas legalmente responsáveis pelo conteúdo do utilizador seria um desastre para a liberdade de expressão, a concorrência e a supervisão democrática. Devemos procurar reformas direcionadas e proporcionais que reduzam os danos enquanto protegem a internet aberta e pluralista que sustenta a vida pública moderna.

Vamos examinar os quatro pilares do oponente, porque cada um deles desmorona sob escrutínio.

Primeiro, o argumento do "efeito inibidor" assume que as plataformas responderiam à responsabilidade com remoções em massa e generalizadas. Mas isso ignora que as plataformas já realizam moderação de conteúdo em larga escala — elas apenas o fazem mal e de forma inconsistente porque não há custo legal por errar. Um padrão de responsabilidade baseado em negligência, ligado à amplificação algorítmica em vez de mera hospedagem, não exige perfeição; exige cuidado razoável. Todas as outras indústrias — farmacêutica, automotiva, construção — operam sob padrões de responsabilidade sem parar completamente em pura aversão ao risco. As empresas calibraram; elas não fecham. A ideia de que as plataformas prefeririam destruir seu próprio produto a construir sistemas de moderação competentes incompreende os incentivos básicos de negócios — o engajamento é o modelo de receita delas, e elas não o incinerarão por pânico.

Segundo, o argumento do "enraizamento" na verdade joga contra mim, não a favor. No momento, os gigantes já dominam através de efeitos de rede, capital e vantagens de dados que não têm nada a ver com a lei de responsabilidade. Enquanto isso, são os mesmos gigantes cujos algoritmos causam o maior dano documentado — porque eles têm os motores de amplificação mais sofisticados. Um padrão de responsabilidade escalado para o alcance algorítmico e receita reais — que a maioria das propostas bem redigidas inclui — visaria as máquinas de engajamento do Facebook e do YouTube precisamente por causa de sua escala, enquanto deixaria fóruns pequenos e comunidades de nicho, que representam um risco de amplificação muito menor, em grande parte inalterados. Isso não é um instrumento cego; é um bisturi que meu oponente se recusa a reconhecer que existe.

Terceiro, meu oponente afirma que tribunais e legislaturas, não empresas, deveriam definir limites de expressão — mas a responsabilidade é exatamente como os tribunais se envolvem. No momento, sob imunidade geral, os tribunais estão completamente excluídos; as plataformas são as únicas árbitras irresponsáveis do que é amplificado, sem qualquer controle judicial. A responsabilidade não terceiriza a política para as corporações — faz o oposto: submete as decisões corporativas à revisão judicial pela primeira vez. Isso é mais supervisão democrática, não menos.

Finalmente, as "alternativas mais inteligentes" do meu oponente — transparência, auditorias, notificação e remoção — não são concorrentes da responsabilidade, são consequências dela. As plataformas só construíram os sistemas de moderação que têm hoje por causa da pressão pública e das ameaças regulatórias iminentes. Transparência voluntária sem força legal é teatro. A responsabilidade é o que dá a cada uma dessas reformas propostas poder de execução real. Sem ela, "requisitos de auditoria" são sugestões que uma empresa de um trilhão de dólares pode simplesmente ignorar, como fizeram por mais de uma década.

O status quo não é neutro — é um subsídio para a negligência. Meu oponente nos pede para confiar que as plataformas se autocorrigirão depois de quinze anos de evidências de que não o farão. A responsabilidade não é o fim da livre expressão; é o começo das plataformas finalmente serem responsáveis perante o público do qual lucram.

Você apresenta um argumento convincente de que os algoritmos das plataformas podem amplificar danos — mas sua cura, a responsabilidade legal geral pelo conteúdo do usuário, produziria danos muito piores e mais previsíveis do que os problemas que você descreve.

Primeiro, sua analogia com um editor de jornal ignora uma diferença crucial, legal e prática. Jornais escolhem o que publicar; eles tomam decisões editoriais discretas sobre um conjunto finito de peças. Plataformas modernas processam bilhões de postagens efêmeras, muitas indistinguíveis em escala, e respondem a um mosaico global em constante mudança de leis, idiomas e normas. Se as plataformas enfrentarem responsabilidade no estilo de editora por qualquer coisa que seus sistemas apresentem ou recomendem, a resposta racional e de minimização de custos será a supressão prévia em massa: filtros automatizados, revisão humana conservadora e bloqueio de tópicos ou comunidades inteiras. Isso não é teórico — as empresas já removem em excesso quando o risco ou a incerteza regulatória aumentam. O resultado não é uma praça pública mais limpa, mas uma mais restrita e higienizada, onde visões controversas ou minoritárias são as primeiras vítimas.

Segundo, você propõe regimes de notificação e correção ou responsabilidade específica para amplificação. Na prática, esses regimes criam encargos assimétricos que esmagam os atores menores. Os grandes incumbentes podem arcar com equipes jurídicas, construir pipelines de conformidade personalizados e pagar por erros; startups, grupos cívicos e comunidades de nicho não podem. O efeito de mercado previsível é a consolidação: menos plataformas com guardiões centralizados e comercializados decidindo qual discurso sobrevive. Isso concentra o poder sobre o discurso público precisamente onde deveríamos descentralizá-lo.

Terceiro, a responsabilidade terceirizaria decisões difíceis e carregadas de valores sobre o discurso para empresas privadas que carecem de responsabilidade democrática. Você diz que se trata de responsabilidade, não de punir usuários — mas impor risco legal transforma plataformas em censores vigilantes operando sob o medo de multas e liminares. Elas recorrerão à regra mais segura e abrangente para a jurisdição, em vez de julgamentos locais e nuançados. Isso leva ao bloqueio global de conteúdo que pode ser legal e importante em muitos contextos, desencorajando o jornalismo legítimo, a pesquisa e a dissidência.

Quarto, danos direcionados — contágio de suicídio adolescente, desinformação eleitoral, assédio coordenado — são reais e merecem reparação, mas a responsabilidade é um instrumento grosseiro. Abordagens melhores preservam a liberdade de expressão ao mesmo tempo em que elevam os padrões de cuidado: salvaguardas condicionais que exigem notificação e remoção tempestivas, processos de moderação e apelação transparentes, avaliações obrigatórias de impacto algorítmico e auditorias independentes, transparência aplicável sobre sistemas de classificação e recomendação, e penalidades graduadas ligadas à negligência demonstrável para conteúdo ilegal, em vez de responsabilidade objetiva em todo o local. Essas ferramentas forçam as plataformas a internalizar custos e melhorar o design sem convidar à censura preventiva generalizada ou aumentar as barreiras de entrada.

Finalmente, considere o efeito cascata global. Um tribunal dos EUA ou um regulador da UE impondo responsabilidade ampla levaria as plataformas a aplicar a regra mais rigorosa globalmente para minimizar a exposição, suprimindo o discurso em países onde ele é legal e vital. Esse resultado mina o intercâmbio pluralista que você afirma proteger.

A responsabilidade deve ser calibrada: responsabilizar as plataformas por hospedar conscientemente ou amplificar intencionalmente conteúdo ilegal após notificação justa, exigir mecanismos robustos de transparência e reparação, e capacitar os reguladores a impor medidas de segurança desde o projeto. Mas transformar plataformas em editoras com exposição legal aberta fortalecerá monopólios, desencorajará a dissidência e tornará a internet um fórum muito menos aberto — um desastre previsível para a liberdade de expressão, não uma cura para ela.

Vamos fazer um balanço de onde este debate realmente se encontra. Meu oponente nunca contesta a alegação factual central do meu caso: que as plataformas usam algoritmos para selecionar e amplificar ativamente conteúdo para obter lucro, e que essa amplificação causa danos documentados e graves. Em vez disso, cada refutação é uma previsão sobre como as plataformas poderiam reagir exageradamente à responsabilidade. Essa é uma base muito mais fraca do que meu oponente precisa, e não resiste ao escrutínio.

Sobre a alegação de "supressão preventiva em massa": meu oponente afirma que as plataformas prefeririam sabotar seu próprio produto a construir moderação competente. Mas isso contradiz a economia básica. O engajamento é todo o modelo de negócios. Uma empresa que responde à responsabilidade desativando seu próprio pipeline de conteúdo está cometendo suicídio financeiro. O que realmente acontece sob regimes de responsabilidade — no direito de difamação, responsabilidade pelo produto, segurança no local de trabalho — é que as empresas investem em conformidade calibrada ao risco, não em desligamento geral. Meu oponente não oferece nenhuma razão para que as plataformas se comportem de maneira diferente aqui, apenas afirmações.

Sobre "consolidar os incumbentes": este argumento, na verdade, incrimina o status quo que meu oponente defende. Os gigantes já estão consolidados por meio de efeitos de rede e capital que não têm nada a ver com responsabilidade. O que meu oponente ignora é que a responsabilidade escalonada — ligada ao alcance, receita e grau de amplificação algorítmica — atinge mais fortemente as empresas com os mecanismos de amplificação mais sofisticados e prejudiciais, enquanto deixa fóruns menores com poder de amplificação mínimo em grande parte intocados. Notavelmente, meu oponente nunca se envolve com esse mecanismo de escalonamento em seus pontos finais; eles continuam argumentando contra um padrão de responsabilidade plano e indiferenciado que eu nunca propus.

Sobre "terceirizar decisões de fala para empresas privadas": isso está precisamente ao contrário. Sob imunidade geral, as plataformas já tomam todas as decisões de fala, sozinhas, sem qualquer verificação externa — esse é o status quo que meu oponente está defendendo. A responsabilidade introduz os tribunais no processo pela primeira vez, criando responsabilidade real onde hoje não existe nenhuma. A alternativa preferida do meu oponente — "avaliações obrigatórias de impacto algorítmico", "auditorias independentes", "penalidades graduadas ligadas à negligência demonstrável" — não é uma alternativa à responsabilidade. É responsabilidade, vestida com linguagem mais branda. Você não pode ter "penalidades graduadas ligadas à negligência" sem um quadro jurídico de responsabilidade para aplicá-las. Meu oponente passou todo este debate reinventando minha posição e chamando-a de compromisso.

Sobre o derramamento global: as leis já operam dessa forma entre jurisdições constantemente — as empresas cumprem o GDPR globalmente em muitos aspectos sem acabar com a internet. Este é um problema de engenharia e jurídico gerenciável, não um que acabará com a civilização.

Quinze anos de autorregulação nos deram crises de saúde mental em adolescentes, campanhas de desinformação adjacentes a genocídio e epidemias de assédio coordenado, tudo isso enquanto as plataformas capturavam lucros recordes. Meu oponente nos pede para continuar confiando na reforma voluntária. Eu peço que você reconheça que a reforma voluntária já falhou, repetidamente, à vista de todos. A responsabilidade não é o fim da internet aberta — é o mecanismo que finalmente faz com que as plataformas respondam, em tribunal, pelas máquinas de amplificação que construíram e lucraram. Isso não é um desastre para a liberdade de expressão — é o único caminho sério para a expressão responsável em escala. Vote pela responsabilidade.

Fechamento — posição B:

O oponente descreve a responsabilidade como uma ferramenta cirúrgica que força as plataformas a “internalizar custos” e a agir com responsabilidade. Na prática, transformar plataformas em editoras é um instrumento grosseiro e previsivelmente destrutivo. As trocas centrais são inevitáveis e concretas: o risco legal incentiva a aversão ao risco em escala, e a aversão ao risco neste domínio equivale à supressão ampla e automatizada de conteúdo. Diante da incerteza multijurisdicional, bilhões de postagens transitórias e penalidades potenciais astronômicas, a resposta corporativa racional é minimizar a exposição bloqueando tópicos, apertando filtros e aplicando regras únicas para todos. Isso não é teórico — é o mesmo comportamento que já observamos quando as plataformas enfrentam ameaças regulatórias ou legais: remoção excessiva, desativação de vozes minoritárias controversas e a substituição da sutileza algorítmica por julgamento matizado.

O oponente insiste que a responsabilidade pode ser restrita à “amplificação” ou baseada em negligência, mas essas distinções não apagam as realidades do mercado. Custos de conformidade, risco de litígio e a necessidade de políticas de conteúdo globais e uniformes favorecem os maiores incumbentes que podem absorver advogados e construir sistemas personalizados. Startups, comunidades de nicho, fóruns acadêmicos e plataformas cívicas não podem.

O efeito de mercado previsível é a consolidação e centralização da fala sob um punhado de empresas privadas com os recursos para cumprir — o exato oposto da descentralização e do pluralismo que os proponentes da reforma afirmam desejar.

Nem a responsabilidade retorna de forma confiável o controle às instituições democráticas. Ela confere um enorme poder regulatório de fato às plataformas privadas que devem censurar preventivamente para evitar decisões imprevisíveis dos juízes. Mesmo que os tribunais acabem por julgar as reivindicações, a realidade intermediária é a autotutela corporativa: remoções preventivas e aplicação global das regras mais rigorosas para evitar exposição. Isso produz supressão extraterritorial de fala que é legal e crucial em muitas localidades, enfraquecendo o debate cívico e o jornalismo investigativo em todo o mundo.

Finalmente, a responsabilidade é uma ferramenta grosseira para problemas muito específicos. Todos concordamos que a segurança dos adolescentes, o assédio coordenado e a desinformação eleitoral são sérios. Mas a responsabilidade ampla do editor é a alavanca errada para esses danos. Existem alternativas melhores e proporcionais que melhoram a segurança sem silenciar o debate: definições e penalidades aplicáveis para conteúdo claramente ilegal; salvaguardas condicionais que exigem notificação e correção oportunas, apelações e transparência; avaliações obrigatórias de impacto algorítmico e auditorias independentes; responsabilidade direcionada para atores que projetam intencionalmente sistemas para facilitar condutas ilegais; e subsídios ou alívio regulatório para ajudar plataformas menores a atender aos padrões de segurança sem sair do mercado.

Essas reformas preservam a internet aberta e pluralista, ao mesmo tempo em que impõem deveres reais e aplicáveis ao projeto e operação das plataformas. Elas criam remédios para danos sem convidar a censura em massa e indiscriminada e a consolidação de mercado que a responsabilidade no estilo do editor produzirá.

Em resumo: o oponente identifica corretamente os danos reais, mas sua solução substituiria um ecossistema caótico e arriscado por um mais estreito e centralizado, onde empresas privadas — não instituições democráticas — se tornam os guardiões da fala permitida. Para a liberdade de expressão, a concorrência e a governança responsável, devemos rejeitar a responsabilidade legal ampla pelo conteúdo do usuário e adotar reformas direcionadas e aplicáveis que controlem os danos sem destruir a internet aberta.