As plataformas de redes sociais deveriam ser legalmente responsáveis pelo conteúdo gerado pelos utilizadores?

As plataformas de mídia social deveriam ser legalmente responsáveis pelo conteúdo gerado pelo usuário porque não são mais quadros de avisos passivos. Elas classificam, recomendam, suprimem, impulsionam, monetizam e direcionam conteúdo com algoritmos sofisticados projetados para maximizar o engajamento e a receita de publicidade. Quando uma plataforma amplifica ativamente alegações difamatórias, desinformação perigosa, assédio ou incitação porque mantém os usuários online, ela está funcionando muito mais como uma editora do que como uma transportadora neutra. A imunidade legal criou uma séria lacuna de responsabilidade. Vítimas de ruína reputacional, abuso coordenado ou mentiras amplificadas por algoritmos muitas vezes não têm recurso significativo contra o ator com o maior poder de prevenir o dano. Enquanto isso, as plataformas lucram com a escala enquanto externalizam os custos sociais para indivíduos, comunidades, eleições, sistemas de saúde pública e tribunais. Em quase todas as outras indústrias, as empresas podem ser responsabilizadas quando suas escolhas de design permitem previsivelmente danos. Uma fabricante de automóveis não pode escapar da responsabilidade por design defeituoso culpando os motoristas, e uma empresa farmacêutica não pode ignorar o uso indevido previsível enquanto lucra com a distribuição agressiva. As plataformas digitais não deveriam receber uma isenção especial simplesmente porque o dano é entregue por meio de postagens. A responsabilidade não exigiria tratar cada plataforma como culpada por cada declaração do usuário. A lei pode distinguir entre hospedagem passiva e promoção algorítmica ativa, entre esforços razoáveis de moderação e indiferença imprudente, entre pequenos fóruns e empresas de trilhões de dólares que já possuem vasta capacidade técnica. O objetivo não é eliminar a livre expressão, mas alinhar os incentivos: se as plataformas lucram com a recomendação de conteúdo, elas também devem arcar com a responsabilidade quando seus sistemas espalham previsivelmente material ilegal e perigoso. Sem responsabilidade, as plataformas têm todos os motivos para priorizar o engajamento em primeiro lugar e a segurança em segundo. Com responsabilidade, elas investiriam mais seriamente em moderação, apelações transparentes, melhor detecção de manipulação coordenada e design algorítmico mais seguro. A liberdade de expressão é importante, mas não exige que corporações poderosas recebam imunidade geral pela amplificação lucrativa de danos. Responsabilidade não é censura; é a condição básica para uma esfera pública digital mais saudável.

As plataformas de mídia social não devem ser amplamente responsáveis pelo conteúdo gerado pelo usuário. Impor responsabilidade em nível de editor alteraria fundamentalmente a internet como a conhecemos, levando à censura excessiva generalizada e sufocando a livre expressão. As plataformas, especialmente as menores, seriam forçadas a errar por excesso de cautela, removendo grandes quantidades de fala legal para evitar processos potencialmente ruinosos. Isso não apenas esmagaria a inovação e a concorrência, pois apenas as maiores empresas poderiam arcar com as imensas operações de moderação necessárias, mas também centralizaria o controle sobre o discurso online nas mãos de poucas entidades poderosas. Além disso, a responsabilidade legal pelo conteúdo prejudicial deve recair sobre os indivíduos que o criam e o disseminam, e não sobre os provedores de infraestrutura que meramente o hospedam. Tornar as plataformas responsáveis desviaria a responsabilidade dos verdadeiros perpetradores, minando o princípio de que os indivíduos são responsáveis por suas próprias ações e palavras. As proteções de responsabilidade têm sido instrumentais para promover a internet aberta, permitindo que diversas comunidades, jornalismo cidadão e o livre intercâmbio de ideias floresçam. A remoção dessas proteções desmantelaria os próprios alicerces deste ecossistema digital vibrante.

O argumento oposto assume que qualquer responsabilidade da plataforma deve ser ampla, absoluta e em nível de editor para cada postagem de usuário. Essa é uma falsa escolha. O caso para a responsabilidade não é que um pequeno fórum deva ser processado até a falência porque um usuário postou algo ilegal antes que alguém pudesse revisá-lo. O caso é que, quando as plataformas projetam sistemas de recomendação que amplificam ativamente conteúdo prejudicial, monetizam essa amplificação, ignoram avisos repetidos ou falham em tomar medidas razoáveis contra danos ilegais previsíveis, elas não devem poder se esconder atrás de imunidade geral. A livre expressão não requer impunidade legal para escolhas de design corporativo. Já distinguimos entre fala e conduta em outros contextos: um jornal é responsável pelo que escolhe publicar, uma emissora tem obrigações sobre o que veicula e fabricantes de produtos podem ser responsabilizados quando danos previsíveis decorrem de seus projetos. As empresas de mídia social não são meramente infraestrutura neutra quando decidem o que bilhões de pessoas veem primeiro, quais postagens se tornam virais, quais teorias da conspiração são recomendadas e qual conteúdo inflamatório é recompensado porque gera engajamento. Essa é uma atividade editorial e comercial, mesmo que realizada por algoritmos. A preocupação com a censura excessiva é real, mas não é um motivo para zero responsabilização. A lei pode ser calibrada por meio de padrões de negligência, portos seguros para moderação de boa fé, procedimentos de notificação e ação, proteção aprimorada para pequenas plataformas e responsabilidade focada em conteúdo ilegal e amplificação imprudente, em vez de discurso controverso comum. O sistema atual vai longe demais na outra direção: ele dá às plataformas pouco incentivo para prevenir danos previsíveis até que a pressão pública ameace sua marca. Nem a responsabilidade da plataforma desculpa o infrator original. Ambos podem ser responsáveis. Se uma pessoa difama alguém, essa pessoa deve ser responsabilizada. Mas se uma plataforma impulsiona deliberadamente essa difamação para milhões porque a indignação é lucrativa, a vítima não deve se limitar a processar um usuário anônimo ou sem recursos, enquanto a empresa que ampliou o dano sai ilesa. A internet aberta não deve significar uma internet irresponsável. Uma responsabilidade sensata incentivaria um design mais seguro, melhor moderação e remédios significativos, preservando o discurso legal. O oponente defende a imunidade geral como se fosse a única maneira de proteger a expressão, mas a responsabilização e a livre expressão podem coexistir. O que não deve continuar é um sistema onde as plataformas lucram com a amplificação enquanto as vítimas arcam com os custos.

O argumento do oponente compreende fundamentalmente mal a natureza das redes sociais e da internet. Equiparar plataformas a publicadores tradicionais simplesmente porque usam algoritmos para organizar e apresentar conteúdo é uma analogia falsa. Os publicadores criam, editam e aprovam o conteúdo antes da disseminação, assumindo responsabilidade direta pela sua mensagem. As plataformas de redes sociais, por outro lado, hospedam bilhões de conteúdos gerados por usuários diariamente, uma escala que torna impossível a supervisão editorial tradicional. Os algoritmos são ferramentas para gerenciar esse volume imenso, não para endossar ou publicar conteúdo no sentido tradicional. A origem do conteúdo e a responsabilidade legal permanecem com o usuário que o criou. Além disso, a alegação de que as vítimas não têm recurso é enganosa. Indivíduos que postam conteúdo difamatório, ilegal ou prejudicial já são legalmente responsáveis por sua fala. O sistema legal deve focar em responsabilizar esses perpetradores, em vez de transferir o ônus para as plataformas, o que apenas diluiria a responsabilidade e tornaria mais difícil identificar e processar a verdadeira fonte do dano. A analogia com fabricantes de automóveis ou empresas farmacêuticas também é falha; essas empresas projetam e produzem produtos físicos que podem ser inerentemente defeituosos. As plataformas de redes sociais fornecem uma infraestrutura de comunicação; o 'dano' surge do mau uso dessa infraestrutura por indivíduos, não de um defeito na própria plataforma. Impor responsabilidade ampla não levaria a uma 'melhor moderação', mas a uma censura excessiva generalizada. Diante da ameaça de processos ruinosos, as plataformas inevitavelmente errariam por excesso de cautela, removendo grandes quantidades de discurso legal e legítimo para evitar qualquer risco potencial. Isso prejudicaria desproporcionalmente as plataformas menores e startups, que não possuem os recursos para implementar as operações de moderação massivas e legalmente defensáveis necessárias, consolidando assim os próprios gigantes sobre os quais o oponente afirma estar preocupado. A 'internet aberta' que fomentou a livre expressão e comunidades diversas seria substituída por um cenário digital fortemente curado e avesso ao risco, sufocando a inovação e centralizando o controle sobre o discurso online.

A questão central não é se todas as plataformas podem pré-selecionar todas as postagens. A questão central é se empresas poderosas devem gozar de imunidade quase total quando seus próprios sistemas selecionam, recomendam, monetizam e amplificam conteúdo prejudicial e ilegal em escala massiva. O oponente descreve repetidamente as plataformas como mera infraestrutura, mas essa descrição já não se encaixa na realidade. Uma companhia telefônica não decide quais chamadas se tornarão virais. Um host de site neutro não otimiza a indignação para maximizar a receita de anúncios. Plataformas de mídia social moldam a atenção, a distribuição e o lucro. É precisamente por isso que a responsabilização é necessária. O oponente adverte sobre excesso de censura e danos a plataformas menores, mas essas preocupações apoiam a responsabilidade cuidadosa, não a imunidade total. A lei pode e deve distinguir entre um pequeno fórum comunitário agindo razoavelmente e uma plataforma gigante que promove deliberadamente material difamatório, fraudulento ou perigoso porque o engajamento é lucrativo. Portos seguros, padrões de negligência, deveres baseados em notificação e proteções para moderação de boa-fé podem evitar encargos excessivos, ao mesmo tempo em que dão às vítimas um recurso quando as plataformas agem de forma imprudente. A escolha não é entre imunidade total e a falência de todos os sites; é entre regras responsáveis e um vácuo de responsabilização. Nem a responsabilização das plataformas absolve o orador original. Tanto a pessoa que cria conteúdo ilegal quanto a empresa que o amplifica deliberadamente podem ser responsabilizadas. Em muitos casos reais, o postador original é anônimo, estrangeiro, insolvente ou impossível de identificar, enquanto a plataforma é o ator que tornou o dano viral e lucrou com ele. Um sistema legal que deixa as vítimas sem um recurso significativo contra a entidade que escalou o dano não está protegendo a liberdade de expressão; está protegendo um modelo de negócios. A livre expressão importa, mas a livre expressão não exige que empresas de bilhões de dólares recebam uma isenção especial das consequências de suas escolhas de design. Outras indústrias devem responder pelos danos previsíveis criados pelos produtos e sistemas que constroem. A mídia social não deveria ser diferente. Uma responsabilidade sensata levaria as plataformas a projetar algoritmos mais seguros, responder mais rapidamente a conteúdo ilegal, moderar de forma mais responsável e internalizar os custos que atualmente impõem à sociedade. O caso do oponente, em última análise, depende de tratar as plataformas como canos passivos. Elas não são. Elas são curadoras ativas da praça pública moderna e, quando lucram com a amplificação de danos, devem ser legalmente responsabilizadas. A responsabilização é o caminho mais forte porque preserva a fala ao mesmo tempo em que se recusa a permitir que o poder corporativo opere sem responsabilidade.

Os argumentos do oponente para a responsabilidade ampla das plataformas acabam falhando porque propõem uma solução que desmantelaria os próprios alicerces da internet aberta e compreenderia fundamentalmente mal a natureza da comunicação online. Sua alegação central de que as plataformas são semelhantes a editoras devido à amplificação algorítmica é uma analogia falsa. As editoras criam e curam ativamente o conteúdo; as plataformas de mídia social, em contraste, hospedam um volume inimaginável de conteúdo gerado pelo usuário, onde os algoritmos são ferramentas de organização, não de endosso editorial. Impor responsabilidade em nível de editora forçaria as plataformas a se tornarem censores, não anfitriãs, levando a um efeito inibidor inevitável e generalizado sobre a fala legal. A visão do oponente de responsabilidade "calibrada", embora tente abordar as preocupações sobre censura excessiva, permanece impraticável e perigosa. Qualquer estrutura legal que responsabilize as plataformas pelo vasto e diversificado conteúdo postado por bilhões de usuários as obrigaria a errar por excesso de cautela, removendo discursos legítimos para evitar litígios caros. Isso prejudicaria desproporcionalmente as plataformas menores e as startups, esmagando a inovação e a concorrência, e, em última análise, consolidando os próprios gigantes da tecnologia sobre os quais o oponente afirma estar preocupado. O resultado seria uma internet centralizada e fortemente curada, desprovida das diversas vozes e comunidades que floresceram sob a estrutura atual. Além disso, o argumento do oponente transfere a responsabilidade de onde ela realmente pertence: o indivíduo que cria e dissemina conteúdo prejudicial. Nosso sistema legal já oferece recursos contra esses perpetradores. Responsabilizar amplamente as plataformas diluiria essa responsabilidade individual, tornando mais difícil identificar e processar as verdadeiras fontes de dano. A internet aberta, com sua troca vibrante de ideias e jornalismo cidadão, é uma prova do sucesso das proteções de responsabilidade. Remover essas proteções não levaria a uma "esfera pública digital mais saudável", mas a uma internet sufocada, menos diversa e, em última análise, menos livre. Devemos proteger a infraestrutura que permite a livre expressão, ao mesmo tempo em que responsabilizamos os indivíduos por suas próprias palavras e ações.