Plataformas en juicio: ¿Deben las empresas de redes sociales ser responsables del contenido de los usuarios?

Las plataformas de redes sociales deben ser consideradas legalmente responsables del contenido dañino que alojan y amplifican, porque hace mucho tiempo que dejaron de ser meros conductos neutrales y se han convertido en actores editoriales activos. Un conducto neutral simplemente transmite lo que un usuario publica y lo deja ahí. Eso no es lo que hacen las plataformas modernas. Sus algoritmos de recomendación deciden lo que miles de millones de personas ven, en qué orden y con qué frecuencia. Clasifican, impulsan e inyectan activamente contenido en los feeds precisamente porque maximiza la participación, y la participación se impulsa por la indignación, el miedo y el sensacionalismo. Cuando una empresa toma decisiones deliberadas sobre qué amplificar para aumentar sus beneficios, está tomando decisiones editoriales, y las decisiones editoriales conllevan responsabilidad. Ya exigimos a todas las demás industrias que cumplan esta norma. Un periódico es responsable de lo que elige imprimir. Una emisora responde de lo que emite. Un fabricante de automóviles responde de un diseño que previsiblemente causa daño. No hay ninguna razón de principio por la que una empresa tecnológica de un billón de dólares deba estar exenta de rendir cuentas simplemente porque el producto dañino sea información entregada por un algoritmo que construyó, ajustó y del que obtiene beneficios. Las consecuencias de esta inmunidad no son abstractas. La amplificación algorítmica ha acelerado de forma medible la propagación de desinformación médica que costó vidas durante crisis de salud pública, ha alimentado campañas de acoso coordinadas, ha promovido contenido de autolesión a adolescentes vulnerables y ha ayudado a incitar a la violencia en el mundo real. En cada caso, la plataforma no se limitó a alojar el contenido; lo recomendó activamente a las personas con mayor probabilidad de ser inflamadas por él. La rendición de cuentas es la herramienta más poderosa que tenemos para alinear el comportamiento corporativo con la seguridad pública. Cuando una empresa asume el coste del daño que genera, invierte en prevenir ese daño. Cuando no asume ningún coste, tiene todos los incentivos financieros para mirar hacia otro lado. La responsabilidad obligaría a las plataformas a internalizar el daño que causan sus motores de amplificación, al igual que la ley de responsabilidad de productos obligó a los fabricantes a fabricar productos más seguros. La pregunta central de este debate es sencilla: ¿deberían las empresas que más se benefician de la amplificación de contenido dañino ser las únicas que no paguen nada cuando este causa daño? La justicia y la seguridad básica exigen que la respuesta sea no.

No deberíamos hacer a las empresas de redes sociales legalmente responsables de prácticamente todo lo que publican los usuarios. Hacerlo obligaría a las plataformas a un régimen de censura masiva previa a la publicación, aplastaría la libre expresión y, en última instancia, rompería Internet abierto, todo ello con escasos beneficios reales en la reducción de daños reales.

Primero, escala y viabilidad. Las principales plataformas procesan miles de millones de contenidos cada día. Ningún humano ni algoritmo puede revisar de forma fiable el material a esa escala sin cometer errores masivos. La responsabilidad estricta crearía un incentivo irresistible para bloquear cualquier cosa que pudiera ser arriesgada en lugar de evaluarla cuidadosamente. Ese ""mejor prevenir que curar"" produce una eliminación excesiva del discurso legal: disidencia política, voces minoritarias, expresión artística, precisamente el discurso que más valoramos proteger.

Segundo, efectos disuasorios y concentración de poder. Si las plataformas se enfrentan a una responsabilidad similar a la de los editores, solo las empresas más grandes podrían permitirse los equipos legales y los costosos sistemas de moderación o el seguro para asumir el riesgo. Las startups, las comunidades nicho y los servicios alternativos quedarían excluidos, consolidando el control del discurso en unas pocas manos corporativas. La vigilancia privada de contenidos, impulsada por el miedo a las demandas en lugar de por normas transparentes o legislación democrática, es un pobre sustituto de las protecciones basadas en principios de libertad de expresión.

Tercero, precisión y debido proceso. Los tribunales y los legisladores están mejor equipados que las empresas privadas para equilibrar derechos e intereses contrapuestos. Ceder esa función a plataformas con fines de lucro invita a decisiones inconsistentes y opacas y al afianzamiento de prioridades comerciales (participación e ingresos publicitarios) como política social de facto. También elimina los incentivos para soluciones matizadas: eliminaciones específicas para contenidos claramente ilegales, procesos rápidos de notificación y eliminación, y soluciones de mercado y regulatorias como la transparencia algorítmica y la responsabilidad centrada en la negligencia demostrable en lugar del estatus de editor estricto.

Finalmente, existen alternativas que abordan los daños sin destrozar la libre expresión: definiciones más claras de categorías ilegales, responsabilidad más limitada para contenidos de los que las plataformas tienen conocimiento real y no actúan, requisitos de auditorías y transparencia algorítmica, y apoyo a la contranarrativa y la alfabetización mediática. Estos enfoques preservan Internet abierto mientras responsabilizan a las plataformas donde realmente facilitan el daño.

En resumen, hacer que las plataformas sean estrictamente responsables supondría intercambiar una pequeña rendición de cuentas teórica por una censura generalizada, concentración de mercado y pérdida de supervisión democrática. Deberíamos corregir las lagunas de responsabilidad concretas con reformas legales específicas, no con un instrumento contundente que silenciaría a muchos para disciplinar a unos pocos.

El caso de mi oponente se basa en un hombre de paja y, una vez que lo retiramos, todo su argumento se desmorona. Atacan repetidamente la "responsabilidad estricta por prácticamente todo lo que publican los usuarios". Pero esa no es mi postura, y nunca lo ha sido. Estoy argumentando a favor de la responsabilidad ligada a lo que las plataformas hacen activamente: clasificar, impulsar, recomendar y amplificar contenido con fines de lucro. El usuario que publica es una cosa. La empresa que toma esa publicación y la inyecta algorítmicamente en diez millones de feeds porque la indignación impulsa los ingresos publicitarios es algo completamente diferente. Así que permítanme responder directamente a sus puntos más fuertes.

Primero, la objeción de la escala. Mi oponente dice que nadie puede revisar miles de millones de publicaciones. De acuerdo, e irrelevante. La responsabilidad por la amplificación no requiere revisar cada publicación, al igual que un casino no tiene que inspeccionar cada dólar para ser responsable de amañar una máquina tragamonedas. Las plataformas no amplifican contenido por accidente. Construyen, ajustan y optimizan los propios algoritmos que deciden qué se difunde. No les pedimos que lean todo. Les pedimos que sean responsables de la máquina que diseñaron deliberadamente y de la que obtienen beneficios. Tienen conocimiento y control total sobre esa máquina. La "escala" detrás de la cual se esconden es una escala que ellos mismos fabricaron y monetizaron.

Segundo, la afirmación de censura y efecto disuasorio. Noten el juego de manos: mi oponente asume que la rendición de cuentas solo puede significar la eliminación indiscriminada de discursos lícitos. Pero todas las demás industrias responsables lo desmienten. Los periódicos y las cadenas de televisión enfrentan responsabilidad y, sin embargo, el periodismo robusto sobrevive; de hecho, prospera precisamente porque las consecuencias obligan a la calidad sobre la imprudencia. La responsabilidad no silencia el discurso; elimina el incentivo de lucro para armar y potenciar lo peor de él. El "efecto disuasorio" que temen ya existe, solo que disuade a las víctimas de acoso, desinformación y promoción de autolesiones que hoy no tienen recurso.

Tercero, la concentración del mercado. Este argumento va en contra de mi oponente. El régimen actual de inmunidad es exactamente lo que construyó los monopolios de billones de dólares de hoy. El aislamiento legal total permitió que un puñado de empresas crecieran sin rendir cuentas y sin ser desafiadas. La rendición de cuentas no afianza a los gigantes; los disciplina, al igual que lo ha hecho en productos farmacéuticos, automóviles y finanzas.

Finalmente, mi oponente concede todo el debate. Admiten que las plataformas deberían enfrentar "responsabilidad por el contenido del que tienen conocimiento real y no actúan", deberían estar sujetas a "auditorías algorítmicas" y deberían responder por "negligencia demostrable". Esa es mi postura. Una vez que aceptas que las plataformas pueden ser consideradas responsables de sus elecciones algorítmicas, has abandonado la ficción del conducto neutral y te has unido a mi lado. La única pregunta que queda es cuán robusta debe ser esa rendición de cuentas, y dados los cuerpos documentados de contenido de autolesiones amplificado, desinformación médica y violencia incitada, la respuesta debe ser: lo suficientemente robusta como para cambiar realmente el comportamiento.

Tienes razón al señalar los graves daños impulsados por el diseño de las plataformas. No niego que las plataformas amplifican contenido peligroso. Pero el salto del oponente de “las plataformas causan daño” a “hacerlas editoras estrictas” ignora las catastróficas compensaciones y los límites prácticos de esa solución.

Primero, la escala no es un inconveniente menor; es la restricción definitoria. Miles de millones de publicaciones diarias significan que cualquier regla que cree responsabilidad estricta incentivará la eliminación automatizada y ultraamplia. Los algoritmos optimizados para evitar riesgos suprimirán el discurso ambiguo pero legal —disidencia política, perspectivas minoritarias, arte, periodismo— mucho más que el material claramente ilegal, relativamente más raro, que el oponente busca detener. Eso no es teórico: las plataformas bajo presión ya eliminan en exceso cuando los costos de error son altos.

Segundo, la responsabilidad estricta centraliza el poder. Ante la exposición a demandas ilimitadas, solo las firmas más grandes pueden permitirse los costos legales, el seguro y el aparato de moderación pesado. Eso consolida el control del discurso público en unas pocas firmas privadas con políticas opacas, en lugar de distribuir el discurso a través de diversos servicios o permitir que las startups experimenten con diferentes normas de moderación.

Tercero, la responsabilidad por sí sola no aborda los mecanismos reales del daño. El oponente trata toda amplificación como equivalente. Pero la ley puede (y debe) distinguir: responsabilizar a las plataformas cuando promueven a sabiendas contenido ilegal, cuando diseñan sistemas para recompensar comportamientos claramente dañinos, o cuando son negligentes al responder a avisos específicos y procesables. Ese estándar enfocado de negligencia o conocimiento apunta a la culpabilidad sin requerir la supresión previa a la publicación de todo lo remotamente controvertido.

Cuarto, los efectos perversos de migración importan. Si las plataformas convencionales se ven obligadas a una moderación previa extrema, los usuarios y los malos actores huirán a aplicaciones cifradas y redes marginales donde el contenido dañino es más difícil de detectar y la aplicación de la ley no puede intervenir, empeorando los daños reales, no mejorándolos.

Finalmente, existen reformas practicables y proporcionales que preservan la libre expresión al tiempo que aumentan la rendición de cuentas: condicionar los puertos seguros a prácticas de moderación demostrables y transparentes; exigir auditorías algorítmicas y divulgación de señales de amplificación para revisión independiente; requerir notificación y eliminación oportuna de contenido claramente ilegal con derechos de apelación; y adoptar un estándar de negligencia/conocimiento para la responsabilidad civil en lugar de un estatus de editor estricto. Estas medidas cambian los incentivos y pueden aplicarse sin convertir las plataformas en máquinas de censura.

El oponente identifica problemas que merecen soluciones, pero la responsabilidad estricta de editor es un instrumento contundente que suprimiría el discurso legal, afianzaría a los guardianes corporativos y dirigiría los daños a canales menos visibles. Un camino mejor son reglas específicas que alineen los incentivos, preserven el debido proceso y enfoquen la responsabilidad donde las plataformas actúan realmente con conocimiento o desprecio temerario, no una reclasificación total que rompa el internet abierto que valoramos.

Este debate termina con un veredicto que mi oponente me ha entregado. Eliminando la retórica, se encuentra que el bando contrario ha pasado dos turnos argumentando en contra de una posición que yo nunca defendí, mientras que en silencio concedía la posición que yo defendí.

Miren lo que mi oponente ahora apoya abiertamente: responsabilizar a las plataformas cuando promueven a sabiendas contenido ilegal, cuando diseñan sistemas para recompensar el comportamiento dañino, cuando son negligentes en responder a las notificaciones. Exigen auditorías algorítmicas, divulgación de señales de amplificación y un estándar de negligencia y conocimiento para la responsabilidad civil. Ese es precisamente mi argumento. En el momento en que usted acepta que una plataforma puede ser considerada responsable por lo que su algoritmo impulsa deliberadamente, ha abandonado por completo la ficción del conducto neutral. La única disputa restante es cuán fuerte debe ser esa rendición de cuentas, y en cada prueba que importa, mi lado prevalece.

Consideren los tres pilares de su argumento y por qué cada uno falló. Primero, la escala. Demostré que la responsabilidad por la amplificación no requiere leer miles de millones de publicaciones, solo la responsabilidad por la máquina de participación que la empresa construyó, ajustó y de la que se beneficia. Mi oponente nunca respondió a esto. Simplemente repitieron la palabra escala como si el volumen borrara la agencia. No lo hace. Una empresa que diseña un sistema para inyectar contenido inflamatorio en diez millones de fuentes no puede esconderse detrás del tamaño del daño que fabricó.

Segundo, la censura. Su miedo a un efecto paralizador asume que la rendición de cuentas solo puede significar la eliminación total del discurso legal. Todas las demás industrias responsables lo desmienten. Periódicos, emisoras, fabricantes de medicamentos y fabricantes de automóviles enfrentan responsabilidad, y ninguno de ellos fue forzado al silencio o a la extinción. Fueron forzados a la responsabilidad. El verdadero efecto paralizador ya existe hoy, y recae sobre las víctimas de acoso, desinformación médica y contenido de autolesión que actualmente no tienen recurso alguno.

Tercero, la concentración del mercado. Este argumento se desmorona al contacto, porque el actual régimen de inmunidad es exactamente lo que construyó los gigantes irresponsables de un billón de dólares que ahora enfrentamos. El aislamiento legal total creó los monopolios. La rendición de cuentas los disciplina, como lo ha hecho en todas las industrias reguladas de la historia.

El último recurso de mi oponente fue el argumento de la migración, afirmando que los malos actores huirán a redes marginales. Pero eso concede el punto: admite que la amplificación principal es el motor del daño masivo, y eliminar el incentivo de lucro de ese motor es exactamente el objetivo. Una campaña de acoso en una aplicación marginal cifrada llega a miles. El mismo contenido, supercargado algorítmicamente por una plataforma principal, llega a millones. Reducir el megáfono es una victoria, no un fracaso.

Así que volvemos a la pregunta en el corazón de este debate. ¿Deberían las empresas que más se benefician de amplificar contenido dañino ser los únicos actores en toda nuestra economía que no pagan nada cuando esa amplificación mata, radicaliza o destruye? Mi oponente no pudo decir que sí. Concedieron que las plataformas deben responder por sus elecciones algorítmicas. Simplemente carecieron del coraje para hacer que esa rendición de cuentas fuera lo suficientemente fuerte como para importar. Dados los recuentos de cuerpos documentados por contenido de autolesión amplificado, desinformación médica letal y violencia incitada en el mundo real, las medidas a medias no son justicia. La responsabilidad sólida sí lo es. La rendición de cuentas debe ser lo suficientemente fuerte como para cambiar realmente el comportamiento, y es por eso que mi lado debe prevalecer.

Cierre: Mi oponente tiene razón al identificar daños reales, a veces trágicos, vinculados al diseño de las plataformas: la desinformación, el acoso y la amplificación algorítmica tienen consecuencias. Pero su cura (reclasificar las plataformas como editoras con amplia responsabilidad) es un instrumento contundente que causaría mucho más daño del que previene. La responsabilidad estricta de editor sería obligar a la censura masiva previa a la publicación, incentivar la eliminación excesiva de voces disidentes y minoritarias legítimas, concentrar el control del discurso en unas pocas empresas que puedan asumir el riesgo legal y empujar la actividad dañina a espacios cifrados o marginales donde sea más difícil de mitigar.

El oponente enmarca repetidamente el problema como una elección binaria entre inmunidad total y responsabilidad total de editor. Esa es una falsa dicotomía. Podemos y debemos responsabilizar a las plataformas por los daños que facilitan activamente —por ejemplo, cuando promueven a sabiendas contenido ilegal, diseñan sistemas que recompensan comportamientos demostrablemente dañinos o ignoran negligentemente avisos procesables— sin convertirlas en censores omniscientes. Mi posición mantiene la rendición de cuentas enfocada: condicionar los puertos seguros a prácticas de moderación transparentes; adoptar un estándar de negligencia/conocimiento para la responsabilidad civil; exigir auditorías algorítmicas, transparencia sobre las señales de amplificación, notificación y eliminación oportunas con derecho a apelación; y crear mecanismos de aplicación que castiguen las elecciones de diseño imprudentes en lugar del discurso ambiguo.

El oponente argumentó que la escala es irrelevante porque las plataformas construyeron las máquinas que amplifican el contenido. La escala es precisamente por lo que la solución importa. Las leyes que ignoran cuántos miles de millones de publicaciones fluyen diariamente producirán opciones predeterminadas seguras por parte de actores privados, es decir, cerrarán el grifo del discurso legal. Debemos cambiar los incentivos sin crear un sistema que otorgue a las empresas privadas un poder editorial sin control. Su propia concesión —respaldar la responsabilidad por el contenido que las plataformas conocen o permiten negligentemente— valida el camino intermedio que he delineado.

En resumen, todos queremos que las plataformas dejen de amplificar los daños reales. Pero reclasificarlas como editoras intercambiaría un internet abierto y pluralista por una censura severa, una mayor concentración del mercado y menos transparencia. Las reformas legales específicas que vinculan la responsabilidad al conocimiento, la negligencia y las prácticas de amplificación específicas reducirán los daños al tiempo que preservarán la libre expresión, la competencia y la supervisión democrática. El oponente ha mostrado el problema pero no ha justificado los catastróficos compromisos de su solución propuesta; mi enfoque responsabiliza a las plataformas donde lo merecen sin romper el internet abierto que necesitamos.