As plataformas de redes sociais devem ser legalmente responsabilizadas pelo conteúdo gerado pelos utilizadores?

O atual quadro jurídico, que protege em grande parte as plataformas de redes sociais da responsabilidade por conteúdo gerado pelo utilizador, está fundamentalmente falho. Estas plataformas não são condutas passivas; são curadoras, amplificadoras e monetizadoras ativas da fala. Os seus algoritmos, concebidos para maximizar o envolvimento, promovem frequentemente conteúdo sensacionalista, divisivo e prejudicial. Argumentar a favor da imunidade contínua é ignorar o profundo papel editorial que estas empresas desempenham. Torná-las legalmente responsáveis, especialmente por conteúdo amplificado pelos seus próprios sistemas, é um passo necessário para incentivar uma moderação de conteúdo robusta, proteger os indivíduos de difamação e assédio, e conter a disseminação desenfreada de desinformação perigosa. Esta responsabilização garantirá que as plataformas suportem alguma responsabilidade pelos custos sociais do conteúdo do qual lucram, em vez de externalizarem esses custos para o público.

As plataformas devem manter uma ampla imunidade legal para o conteúdo gerado pelo usuário, pois a responsabilidade em escala de plataforma não produziria justiça cuidadosa; produziria censura preventiva em massa. As redes sociais hospedam bilhões de postagens em diferentes idiomas, contextos e sistemas legais. Se cada declaração supostamente difamatória, alegação política controversa, crítica dura, sátira, documento vazado, acusação de ativista ou notícia disputada pudesse gerar responsabilidade para o host, as plataformas racionalmente removeriam primeiro e fariam perguntas depois. A fala que mais provavelmente desapareceria não seria o conteúdo obviamente ilegal, que já pode ser alvo, mas a fala legalmente ambígua: denúncias, dissidência de minorias, paródia, jornalismo cidadão e críticas a pessoas poderosas que podem ameaçar com processos judiciais. A analogia com os jornais falha. Os jornais selecionam e editam um conjunto finito de artigos antes da publicação. As plataformas fornecem infraestrutura para um grande número de falantes independentes. A classificação e a recomendação não transformam cada postagem do usuário na própria declaração da plataforma, assim como um mecanismo de busca não se torna o autor de cada página que indexa. Se a organização algorítmica sozinha cria responsabilidade editorial, então qualquer ferramenta que ajude os usuários a encontrar fala se torna legalmente perigosa. A responsabilidade também entrincheiraria as maiores empresas. Gigantes da tecnologia podem contratar exércitos de moderadores, advogados e pessoal de conformidade. Fóruns menores, startups, comunidades sem fins lucrativos, plataformas locais e espaços de discussão de nicho não podem. Um regime de responsabilidade vendido como prestação de contas provavelmente tornaria as plataformas dominantes mais dominantes, ao mesmo tempo em que eliminaria alternativas menores com diferentes valores de moderação. Nada disso significa que as vítimas devam ser ignoradas. Pessoas que difamam, assediam, ameaçam ou incitam devem enfrentar consequências legais direcionadas. As plataformas podem ser obrigadas a fornecer transparência, apelações, sistemas de denúncia, acesso a dados para pesquisadores e controles do usuário sobre recomendações. As leis podem punir a cooperação consciente com conduta ilegal ou o não cumprimento de ordens judiciais. Mas tornar as plataformas amplamente responsáveis pela fala do usuário as converteria em censores privados sob constante ameaça legal. O melhor caminho é a prestação de contas para os infratores reais e obrigações processuais para as plataformas, não a destruição da imunidade que torna o discurso online aberto possível.

O oponente argumenta que responsabilizar as plataformas levaria à censura em massa e prejudicaria desproporcionalmente as plataformas menores. No entanto, esse argumento deturpa a responsabilidade proposta. Não estamos defendendo a responsabilidade objetiva por cada peça de conteúdo do usuário. Em vez disso, o foco está na responsabilidade por conteúdo que as plataformas amplificam ativamente por meio de seus algoritmos, conteúdo que elas curam e promovem para maximizar o engajamento e o lucro. Isso é fundamentalmente diferente de um quadro de avisos passivo. Quando o algoritmo de uma plataforma divulga uma declaração difamatória ou desinformação perigosa para milhões, ela não está meramente hospedando; está participando ativamente de sua disseminação. A analogia com os jornais não é falha; ela destaca o papel editorial que as plataformas agora desempenham. Enquanto os jornais têm espaço finito, as plataformas têm escala infinita, mas seus algoritmos tomam decisões editoriais sobre qual conteúdo é priorizado e mostrado aos usuários. Essa curadoria algorítmica é uma forma de controle editorial que deve vir com responsabilidade. Além disso, a preocupação com as plataformas menores é exagerada. A responsabilidade pode ser escalonada e os regulamentos podem ser projetados para acomodar recursos variados, talvez focando na amplificação algorítmica em vez de mera hospedagem. A questão central é que as plataformas lucram com o engajamento, e quando esse engajamento é impulsionado por conteúdo prejudicial, elas devem compartilhar a responsabilidade, não serem totalmente isoladas dela. As soluções propostas pelo oponente — transparência e controles do usuário — são insuficientes para lidar com a amplificação sistêmica de conteúdo prejudicial que a responsabilidade incentivaria diretamente as plataformas a mitigar.

O caso oposto baseia-se numa suposição tentadora, mas perigosa: que a responsabilidade da plataforma removeria de forma limpa o conteúdo prejudicial, deixando intocada a expressão legítima. Na realidade, a responsabilidade não cria sabedoria; cria aversão ao risco. Quando uma plataforma enfrenta processos judiciais pelo que milhões ou milhares de milhões de utilizadores dizem, a decisão de negócio mais segura não é investigar cada reclamação sensível ao contexto. É suprimir tudo o que seja controverso, legalmente incerto ou suscetível de enfurecer queixosos poderosos. O oponente diz que os algoritmos tornam as plataformas comparáveis a jornais e emissoras. Essa comparação ainda falha. Um jornal escolhe afirmativamente cada artigo que publica. O sistema de classificação de uma plataforma organiza vastas quantidades de discurso de terceiros para que os utilizadores possam navegar nele. Motores de busca, sites de avaliação, mercados, secções de comentários e fóruns comunitários classificam, ordenam, recomendam ou exibem conteúdo do utilizador. Se essa função organizacional se tornar o gatilho para a responsabilidade do editor, então a internet moderna torna-se legalmente perigosa por design. O resultado seria menos ferramentas de recomendação, menos fóruns abertos e mais censura bruta. Nem a responsabilidade prejudicaria principalmente as maiores plataformas. As maiores empresas já têm o dinheiro, os advogados e os sistemas de moderação automatizados para sobreviver a um regime de responsabilidade. Concorrentes mais pequenos, comunidades sem fins lucrativos, fóruns independentes e plataformas especializadas enfrentariam um risco existencial mesmo com um punhado de processos judiciais. Longe de disciplinar as Big Tech, a responsabilidade ampla proteger-las-ia da concorrência, aumentando o custo de alojamento de discurso. O oponente tem razão em que as vítimas de difamação, assédio, ameaças e conduta ilegal merecem reparações. Mas o caminho responsável é processar os utilizadores que cometem esses erros, exigir que as plataformas respondam a ordens judiciais legais, melhorar a transparência em torno dos sistemas de moderação e recomendação, e dar aos utilizadores controlos mais fortes sobre o que veem. Também podemos impor deveres em torno do devido processo, mecanismos de denúncia e divulgação, sem tornar as plataformas legalmente responsáveis pelas palavras de cada utilizador. A questão central não é se o discurso prejudicial existe; claro que existe. A questão é se a cura seria pior do que a doença. A responsabilidade ampla daria às empresas privadas um mandato legal para remover excessivamente o discurso antes que alguém o possa contestar. Silenciaria a expressão legal, mas contestada, capacitaria litigantes agressivos e consolidaria os maiores incumbentes. A imunidade, aliada à responsabilização direcionada e às obrigações de transparência, continua a ser o melhor quadro para uma internet aberta.

O argumento final do oponente, embora pinte um quadro de consequências terríveis, falha fundamentalmente em reconhecer a realidade de como as plataformas de mídia social operam hoje. Elas não são quadros de avisos passivos; são motores sofisticados de curadoria e amplificação de conteúdo. Sugerir que torná-las responsáveis pelo conteúdo que seus algoritmos promovem é o mesmo que tornar um motor de busca responsável por cada página da web que ele indexa, é um equívoco fundamental sobre o papel ativo que as plataformas desempenham na formação da experiência do usuário e, consequentemente, na disseminação de informações – e desinformação. O cerne do nosso argumento permanece: as plataformas lucram com o engajamento, e quando esse engajamento é impulsionado por conteúdo prejudicial, difamatório ou enganoso, elas devem arcar com um certo grau de responsabilidade. O medo de 'censura em massa' é uma cortina de fumaça. Estamos defendendo a responsabilização, particularmente no que diz respeito à amplificação algorítmica, e não a tarefa impossível de fiscalizar cada postagem individual do usuário. Trata-se de incentivar as plataformas a investir em melhor moderação e a projetar seus sistemas de maneiras que não priorizem o sensacionalismo e as falsidades. Além disso, o argumento de que a responsabilidade esmagaria as plataformas menores é uma conveniente distração. Legislações sensatas podem e devem ser escalonadas para levar em conta os recursos e a escala de diferentes plataformas. A imunidade atual beneficia desproporcionalmente os maiores players, permitindo que eles externalizem os custos sociais de seus modelos de negócios. Em última análise, a visão do oponente de uma internet aberta baseia-se em uma ficção perigosa: que as plataformas podem continuar a operar como potências descontroladas, lucrando com o engajamento sem consequências. Defendemos uma abordagem mais equilibrada, que proteja as vítimas, desincentive a disseminação de conteúdo prejudicial e incentive as plataformas a serem administradoras responsáveis da praça pública digital. O status quo é insustentável, e a responsabilidade proposta é uma evolução necessária para garantir um ecossistema online mais saudável.

O argumento a favor da responsabilidade das plataformas soa atraente porque promete responsabilização. Mas, ao longo deste debate, o lado oposto nunca resolveu o problema central: na escala da internet, a responsabilidade legal pela fala do usuário não produzirá moderação cuidadosa e equilibrada. Produzirá censura defensiva. O oponente insiste que a responsabilidade pode ser limitada à amplificação algorítmica, mas isso não torna a proposta segura. Quase todas as plataformas modernas organizam, classificam, pesquisam, recomendam ou exibem conteúdo de alguma forma estruturada. Um feed cronológico é uma escolha de classificação. Um resultado de pesquisa é uma escolha de classificação. Uma lista de tendências, uma barra lateral de recomendações, uma hashtag ou um filtro de avaliações envolvem ordenação algorítmica. Se essas ferramentas comuns acionarem responsabilidade legal pela fala subjacente, as plataformas responderão suprimindo conteúdo legal, mas contestado, desativando recursos úteis de descoberta ou permitindo apenas a expressão mais segura e higienizada. Isso prejudicaria especialmente a fala que mais precisa de proteção: críticas a instituições poderosas, alegações de má conduta, dissidência política, sátira, reportagens investigativas, opiniões impopulares e pontos de vista minoritários. Esses são precisamente os tipos de postagens que geram ameaças legais e disputas factuais. Um indivíduo público rico ou uma corporação não precisaria provar que uma alegação é falsa antes de silenciá-la; o mero risco de responsabilidade pressionaria as plataformas a removê-la. O oponente também nunca responde adequadamente ao problema da concorrência. Grandes plataformas podem absorver custos de conformidade, contratar equipes jurídicas e construir sistemas massivos de moderação. Comunidades menores, startups, fóruns locais e plataformas sem fins lucrativos não podem. A responsabilidade não humilharia as Big Tech; construiria um fosso legal em torno delas. Nada disso nega que os danos online sejam reais. Difamação, assédio, ameaças e fraude devem ser abordados. Mas a lei deve visar as pessoas que cometem esses erros, exigir que as plataformas cumpram ordens judiciais, melhorem a transparência, forneçam sistemas de denúncia e apelação e deem aos usuários mais controle sobre os sistemas de recomendação. Essas reformas abordam o dano sem tornar as empresas privadas as censores de primeira instância. A posição mais forte é, portanto, clara: preservar a ampla imunidade para conteúdo gerado pelo usuário, ao mesmo tempo em que impõe deveres processuais direcionados e responsabilidade por infratores reais. A remoção da imunidade sufocaria a fala legal, esmagaria plataformas menores e tornaria a internet menos aberta, menos diversa e menos livre.