¿Deben las plataformas de redes sociales ser legalmente responsables del contenido generado por los usuarios?

El marco legal actual, que en gran medida protege a las plataformas de redes sociales de la responsabilidad por el contenido generado por los usuarios, está fundamentalmente roto. Estas plataformas no son conductos pasivos; son curadores, amplificadores y monetizadores activos del discurso. Sus algoritmos, diseñados para maximizar la participación, a menudo promueven contenido sensacionalista, divisivo y dañino. Argumentar a favor de la inmunidad continua es ignorar el profundo papel editorial que desempeñan estas empresas. Hacerlas legalmente responsables, especialmente por el contenido amplificado por sus propios sistemas, es un paso necesario para incentivar una moderación de contenido sólida, proteger a las personas de la difamación y el acoso, y frenar la propagación rampante de desinformación peligrosa. Esta rendición de cuentas garantizará que las plataformas asuman cierta responsabilidad por los costos sociales del contenido del que se benefician, en lugar de externalizar esos costos al público.

Las plataformas deben conservar una amplia inmunidad legal para el contenido generado por los usuarios porque la responsabilidad a escala de plataforma no produciría una justicia cuidadosa; produciría censura preventiva masiva. Las redes sociales albergan miles de millones de publicaciones en diferentes idiomas, contextos y sistemas legales. Si cada declaración supuestamente difamatoria, afirmación política controvertida, reseña dura, sátira, documento filtrado, acusación de activista o noticia disputada pudiera generar responsabilidad para el anfitrión, las plataformas eliminarían racionalmente primero y harían preguntas después. El discurso que probablemente desaparecería no sería el contenido obviamente ilegal, que ya puede ser objeto de acción, sino el discurso legalmente ambiguo: la denuncia de irregularidades, la disidencia de minorías, la parodia, el periodismo ciudadano y la crítica a personas poderosas que pueden amenazar con demandas. La analogía con los periódicos falla. Los periódicos seleccionan y editan un conjunto finito de artículos antes de su publicación. Las plataformas proporcionan infraestructura para un gran número de hablantes independientes. La clasificación y la recomendación no transforman cada publicación de usuario en la propia declaración de la plataforma, al igual que un motor de búsqueda no se convierte en el autor de cada página que indexa. Si la organización algorítmica por sí sola crea responsabilidad editorial, entonces cualquier herramienta que ayude a los usuarios a encontrar discurso se vuelve legalmente peligrosa. La responsabilidad también afianzaría a las empresas más grandes. Los gigantes tecnológicos pueden contratar ejércitos de moderadores, abogados y personal de cumplimiento. Los foros más pequeños, las startups, las comunidades sin fines de lucro, las plataformas locales y los espacios de discusión de nicho no pueden. Un régimen de responsabilidad vendido como rendición de cuentas probablemente haría que las plataformas dominantes fueran más dominantes al tiempo que eliminaría alternativas más pequeñas con diferentes valores de moderación. Nada de esto significa que las víctimas deban ser ignoradas. Las personas que difaman, acosan, amenazan o incitan deben enfrentar consecuencias legales específicas. Se puede exigir a las plataformas que proporcionen transparencia, apelaciones, sistemas de denuncia, acceso a datos para investigadores y controles de usuario sobre las recomendaciones. Las leyes pueden castigar la cooperación consciente con conductas ilegales o el incumplimiento de órdenes judiciales. Pero hacer que las plataformas sean ampliamente responsables por el discurso del usuario las convertiría en censores privados bajo amenaza legal constante. El mejor camino es la rendición de cuentas para los infractores reales y las obligaciones procesales para las plataformas, no la destrucción de la inmunidad que hace posible el discurso abierto en línea.

El oponente argumenta que responsabilizar a las plataformas conduciría a la censura masiva y perjudicaría desproporcionadamente a las plataformas más pequeñas. Sin embargo, este argumento tergiversa la responsabilidad propuesta. No abogamos por una responsabilidad objetiva sobre cada pieza de contenido generado por el usuario. En cambio, el enfoque está en la responsabilidad por el contenido que las plataformas amplifican activamente a través de sus algoritmos, contenido que curan y promueven para maximizar la participación y las ganancias. Esto es fundamentalmente diferente de un tablón de anuncios pasivo. Cuando el algoritmo de una plataforma difunde una declaración difamatoria o desinformación peligrosa a millones de personas, no se limita a alojarla; participa activamente en su difusión. La analogía con los periódicos no es defectuosa; resalta el papel editorial que ahora desempeñan las plataformas. Mientras que los periódicos tienen un espacio finito, las plataformas tienen una escala infinita, pero sus algoritmos toman decisiones editoriales sobre qué contenido se prioriza y se muestra a los usuarios. Esta curación algorítmica es una forma de control editorial que debería conllevar responsabilidad. Además, la preocupación por las plataformas más pequeñas es exagerada. La responsabilidad puede ser escalonada y las regulaciones pueden diseñarse para acomodar recursos variables, quizás centrándose en la amplificación algorítmica en lugar del mero alojamiento. El problema central es que las plataformas se benefician de la participación, y cuando esa participación está impulsada por contenido dañino, deberían compartir la responsabilidad, no estar completamente aisladas de ella. Las soluciones propuestas por el oponente —transparencia y controles de usuario— son insuficientes para abordar la amplificación sistémica de contenido dañino que la responsabilidad incentivaría directamente a las plataformas a mitigar.

El caso de la oposición se basa en una suposición tentadora pero peligrosa: que la responsabilidad de la plataforma eliminaría de forma limpia el contenido dañino y dejaría intacta la expresión legítima. En realidad, la responsabilidad no crea sabiduría; crea aversión al riesgo. Cuando una plataforma se enfrenta a demandas por lo que dicen millones o miles de millones de usuarios, la decisión comercial más segura no es investigar cada reclamación sensible al contexto. Es suprimir cualquier cosa controvertida, legalmente incierta o que pueda enfadar a quejosos poderosos. El oponente dice que los algoritmos hacen que las plataformas sean comparables a los periódicos y las cadenas de televisión. Esa comparación sigue fallando. Un periódico elige afirmativamente cada artículo que publica. El sistema de clasificación de una plataforma organiza grandes cantidades de discursos de terceros para que los usuarios puedan navegar por ellos. Los motores de búsqueda, los sitios de reseñas, los mercados, las secciones de comentarios y los foros comunitarios clasifican, ordenan, recomiendan o muestran contenido generado por el usuario. Si esa función organizativa se convierte en el desencadenante de la responsabilidad del editor, entonces el internet moderno se vuelve legalmente peligroso por diseño. El resultado sería menos herramientas de recomendación, menos foros abiertos y más censura contundente. La responsabilidad tampoco perjudicaría principalmente a las plataformas más grandes. Las empresas más grandes ya tienen el dinero, los abogados y los sistemas de moderación automatizados para sobrevivir a un régimen de responsabilidad. Los competidores más pequeños, las comunidades sin fines de lucro, los foros independientes y las plataformas especializadas se enfrentarían a un riesgo existencial incluso con un puñado de demandas. Lejos de disciplinar a las Big Tech, una responsabilidad amplia las protegería de la competencia al aumentar el costo de alojar discursos. El oponente tiene razón en que las víctimas de difamación, acoso, amenazas y conducta ilegal merecen recursos. Pero el camino responsable es perseguir a los usuarios que cometen esas transgresiones, exigir a las plataformas que respondan a las órdenes judiciales legales, mejorar la transparencia en torno a los sistemas de moderación y recomendación, y dar a los usuarios un mayor control sobre lo que ven. También podemos imponer deberes en torno al debido proceso, los mecanismos de denuncia y la divulgación sin hacer que las plataformas sean legalmente responsables de las palabras de cada usuario. La pregunta central no es si existe el discurso dañino; por supuesto que sí. La pregunta es si la cura sería peor que la enfermedad. Una responsabilidad amplia daría a las empresas privadas un mandato legal para eliminar en exceso el discurso antes de que nadie pueda impugnarlo. Silenciaría la expresión legal pero controvertida, empoderaría a los litigantes agresivos y consolidaría a los incumbentes más grandes. La inmunidad, junto con la rendición de cuentas específica y las obligaciones de transparencia, sigue siendo el mejor marco para un internet abierto.

El argumento final del oponente, si bien pinta un cuadro de consecuencias nefastas, no reconoce fundamentalmente la realidad de cómo operan las plataformas de redes sociales hoy en día. No son tablones de anuncios pasivos; son sofisticados motores de curación y amplificación de contenido. Sugerir que hacerlas responsables del contenido que sus algoritmos promueven es similar a hacer responsable a un motor de búsqueda de cada página web que indexa, malinterpreta fundamentalmente el papel activo que desempeñan las plataformas en la configuración de la experiencia del usuario y, en consecuencia, la difusión de información, y desinformación. El núcleo de nuestro argumento sigue siendo: las plataformas se benefician de la participación, y cuando esa participación está impulsada por contenido dañino, difamatorio o engañoso, deben asumir un grado de responsabilidad. El miedo a la 'censura masiva' es una cortina de humo. Abogamos por la rendición de cuentas, particularmente en lo que respecta a la amplificación algorítmica, no por la tarea imposible de controlar cada publicación individual de los usuarios. Se trata de incentivar a las plataformas a invertir en una mejor moderación y a diseñar sus sistemas de manera que no prioricen el sensacionalismo y las falsedades. Además, el argumento de que la responsabilidad aplastaría a las plataformas más pequeñas es una desviación conveniente. La legislación sensata puede y debe ser escalonada para tener en cuenta los recursos y la escala de las diferentes plataformas. La inmunidad actual beneficia desproporcionadamente a los actores más grandes al permitirles externalizar los costos sociales de sus modelos de negocio. En última instancia, la visión del oponente de un internet abierto se basa en una ficción peligrosa: que las plataformas pueden seguir operando como potencias sin control, beneficiándose de la participación sin consecuencias. Abogamos por un enfoque más equilibrado, uno que proteja a las víctimas, desincentive la difusión de contenido dañino y aliente a las plataformas a ser administradoras responsables de la plaza pública digital. El status quo es insostenible, y la responsabilidad propuesta es una evolución necesaria para garantizar un ecosistema en línea más saludable.

El argumento a favor de la responsabilidad de las plataformas suena atractivo porque promete rendición de cuentas. Pero a lo largo de este debate, el lado opuesto nunca ha resuelto el problema central: a escala de internet, la responsabilidad legal por el discurso del usuario no producirá una moderación cuidadosa y equilibrada. Producirá censura defensiva. El oponente insiste en que la responsabilidad puede limitarse a la amplificación algorítmica, pero eso no hace que la propuesta sea segura. Casi todas las plataformas modernas organizan, clasifican, buscan, recomiendan o muestran contenido de alguna manera estructurada. Un feed cronológico es una elección de clasificación. Un resultado de búsqueda es una elección de clasificación. Una lista de tendencias, una barra lateral de recomendaciones, un hashtag o un filtro de reseñas implican un ordenamiento algorítmico. Si esas herramientas ordinarias activan la responsabilidad legal por el discurso subyacente, las plataformas responderán suprimiendo contenido legal pero disputado, deshabilitando funciones de descubrimiento útiles o permitiendo solo la expresión más segura y sanitizada. Eso perjudicaría especialmente al discurso que más necesita protección: la crítica a instituciones poderosas, las acusaciones de mala conducta, la disidencia política, la sátira, el periodismo de investigación, las opiniones impopulares y los puntos de vista minoritarios. Estos son precisamente los tipos de publicaciones que generan amenazas legales y disputas fácticas. Una figura pública o corporación adinerada no necesitaría probar que una afirmación es falsa antes de silenciarla; el mero riesgo de responsabilidad presionaría a las plataformas para que la eliminaran. El oponente tampoco responde adecuadamente al problema de la competencia. Las grandes plataformas pueden absorber los costos de cumplimiento, contratar equipos legales y construir sistemas masivos de moderación. Las comunidades más pequeñas, las startups, los foros locales y las plataformas sin fines de lucro no pueden. La responsabilidad no humillaría a las grandes tecnológicas; construiría un foso legal a su alrededor. Nada de esto niega que los daños en línea sean reales. La difamación, el acoso, las amenazas y el fraude deben abordarse. Pero la ley debe dirigirse a las personas que cometen esos delitos, exigir a las plataformas que obedezcan las órdenes judiciales, mejorar la transparencia, proporcionar sistemas de denuncia y apelación, y dar a los usuarios más control sobre los sistemas de recomendación. Esas reformas abordan el daño sin convertir a las empresas privadas en los censores de primer recurso. La posición más sólida es, por lo tanto, clara: preservar una amplia inmunidad para el contenido generado por el usuario mientras se imponen deberes procesales específicos y rendición de cuentas para los infractores reales. Eliminar la inmunidad enfriaría el discurso legal, aplastaría a las plataformas más pequeñas y haría que internet fuera menos abierto, menos diverso y menos libre.