Prohibir los feeds de recomendación algorítmica para menores

Los feeds de recomendación basados en la participación deberían estar prohibidos para los menores de dieciocho años porque optimizan la atención, no el bienestar de los jóvenes. Los adolescentes aún están desarrollando el control de impulsos y la regulación emocional, lo que los hace especialmente vulnerables a los sistemas que aprenden qué videos, publicaciones o indicaciones los mantendrán desplazándose y luego les servirán más. El resultado puede ser el uso compulsivo, la interrupción del sueño, la intensificación de la comparación social y la exposición repetida a autolesiones, trastornos alimentarios u otro material dañino.

Las plataformas pueden argumentar que la personalización puede mostrar contenido educativo y filtrar material inseguro. Esos son objetivos legítimos, pero no requieren clasificar el contenido por participación predicha. Los sistemas de seguridad apropiados para la edad pueden operar sin un feed diseñado para maximizar el tiempo y la interacción; los feeds cronológicos y las opciones dirigidas por el usuario ofrecen alternativas viables. Una prohibición legal apuntaría al peligroso incentivo y patrón de diseño, no prohibiría las redes sociales o el contenido útil. Cuando los riesgos surgen de la optimización de la atención de los menores para la participación comercial, la protección de los usuarios jóvenes requiere trazar esa línea.

Gracias. Argumentaré que una prohibición legal de los feeds de recomendación algorítmica para menores de dieciocho años es la herramienta equivocada para un problema real, y que haría que los jóvenes estuvieran menos seguros, no más.

Primero, consideremos con qué reemplaza la prohibición a los algoritmos. La alternativa práctica es un feed cronológico o solo de seguimiento. Un feed cronológico no es neutral; es simplemente una curación de quien publica con más frecuencia y más recientemente. La investigación sobre plataformas que han probado la ordenación cronológica, incluidos los experimentos internos de Meta publicados en Science en 2023, encontró que los feeds cronológicos aumentaban la exposición a contenido poco confiable y de baja calidad. Para un joven de catorce años, eso significa más spam, más viralidad cruda y más contenido que ningún sistema ha examinado. Los sistemas de clasificación son la capa donde las plataformas degradan el material de autolesión, reducen el contenido de trastornos alimentarios, suprimen el contacto de adultos desconocidos y muestran recursos de crisis. Elimine esa capa por ley y eliminará el mecanismo de seguridad principal mientras deja intacto el contenido dañino.

Segundo, la personalización es cómo el contenido beneficioso llega a los jóvenes. Un adolescente interesado en codificación, teoría musical, ciencia climática o manejo de la ansiedad tiene muchas más probabilidades de encontrar creadores de alta calidad a través de la recomendación que a través de un feed limitado a las cuentas que ya sigue. Pew Research encuentra consistentemente que la mayoría de los adolescentes dicen que las redes sociales les ayudan a sentirse más conectados y les dan un lugar para mostrar creatividad y encontrar apoyo. La recomendación es lo que permite a una plataforma descubrir una comunidad de apoyo para jóvenes LGBTQ, un canal de tutoría o un recurso de salud mental para un niño que nunca sabría buscarlo. Un mundo de solo seguimiento encierra a los adolescentes en lo que su círculo social existente ya comparte, que a menudo es el contenido menos diverso y menos educativo disponible.

Tercero, el caso opuesto se basa en tratar todos los algoritmos como una sola cosa llamada maximización de la participación. Esa es una imagen falsa. Los sistemas de clasificación modernos optimizan para muchas señales, incluida la satisfacción informada por el usuario, encuestas de arrepentimiento, límites de tiempo de uso y clasificadores de calidad. Las plataformas ya ejecutan modelos específicos para adolescentes que restringen categorías sensibles, establecen cuentas privadas por defecto y limitan las notificaciones nocturnas. La medida regulatoria correcta es exigir y auditar estas decisiones de diseño: exigir que los feeds de los menores excluyan ciertas categorías de contenido, exigir transparencia sobre los objetivos de optimización, exigir auditorías de seguridad independientes e imponer sanciones reales por violaciones. Esa es una regulación específica y basada en evidencia. Una prohibición general desecha la herramienta que podría ser regulada en favor de un feed que no puede ser regulado en absoluto.

Cuarto, el caso empírico para una prohibición es más débil de lo que parece. Los estudios más sólidos sobre salud mental y redes sociales en adolescentes, incluidos los grandes metaanálisis de Orben y Przybylski y el asesoramiento de la American Psychological Association de 2023, encuentran efectos pequeños e inconsistentes que dependen del contenido y el contexto, no de la mera presencia de clasificación. La APA recomienda explícitamente adaptar las funciones a la etapa de desarrollo, no eliminar la recomendación. Si el daño proviene de contenido específico y patrones de diseño específicos, la ley debe apuntar a esos, no a la capacidad general de clasificar información.

Finalmente, una prohibición es inviable y contraproducente en la práctica. Requiere una verificación de edad intrusiva para cada usuario, lo que crea riesgos de privacidad tanto para niños como para adultos. Empuja a los adolescentes hacia plataformas fuera del espacio regulado o hacia cuentas de adultos sin protecciones. Y sería una carga severa para la libertad de expresión, razón por la cual los tribunales en los Estados Unidos ya han ordenado leyes estatales similares.

La pregunta no es si los adolescentes merecen protección. La merecen. La pregunta es si eliminar el único sistema capaz de filtrar, degradar y personalizar para la seguridad los hace más seguros. No lo hace. Regule el algoritmo, audite el algoritmo, restrinja el algoritmo, pero no prohíba la única herramienta que realmente puede brindar protección.

El caso del oponente confunde dos funciones diferentes: filtrar contenido por seguridad y clasificarlo para maximizar la participación. Las plataformas pueden eliminar o etiquetar material dañino, restringir el contacto de adultos y proporcionar recursos de crisis sin predecir qué contenido mantendrá a un adolescente desplazándose. Un feed cronológico no es la única alternativa; las plataformas pueden ofrecer feeds de cuentas seguidas, temas seleccionados por el usuario, búsquedas y recomendaciones basadas en intereses explícitos o valor educativo en lugar de señales de participación.

La evidencia de que un feed cronológico puede mostrar publicaciones de baja calidad tampoco prueba que la clasificación por participación haga que los menores estén más seguros. Los mismos sistemas pueden amplificar material sensacionalista y emocionalmente provocador precisamente porque genera interacción. La moderación puede reducir algunos riesgos, pero no elimina el incentivo subyacente de servir repetidamente lo que capta la atención. Las auditorías y las medidas de calidad propuestas por el oponente dependen de las definiciones, los datos y la aplicación de las plataformas, áreas donde los externos tienen visibilidad limitada. Una prohibición clara de la clasificación basada en la participación para menores es un límite más aplicable, mientras que la moderación de seguridad permanece intacta.

La personalización puede ayudar a los jóvenes a descubrir comunidades útiles y material educativo, pero ese beneficio no depende de optimizar el tiempo de visualización o las reacciones. Se puede ofrecer a través de búsquedas deliberadas, suscripciones o recomendaciones no basadas en la participación. Y los hallazgos de pequeños efectos promedio no resuelven el problema: los resultados promedio pueden ocultar daños graves para adolescentes vulnerables y patrones de uso particulares, incluida la interrupción del sueño y el desplazamiento compulsivo. Proteger a los menores no requiere demostrar que cada adolescente está dañado; requiere evitar un diseño que explote predeciblemente la autorregulación en desarrollo para la atención comercial.

Las preocupaciones sobre la garantía de edad y la libre expresión merecen salvaguardias cuidadosas, pero son razones para diseñar una aplicación proporcionada y que preserve la privacidad, no razones para preservar los feeds que maximizan la participación. El oponente ha demostrado que la recomendación puede ser útil, no que los menores necesiten feeds clasificados por participación para recibir contenido útil o seguro. Mantenga las herramientas de seguridad; elimine el incentivo de maximizar la atención.

La afirmación central de mi oponente es que el filtrado de seguridad y la personalización beneficiosa se pueden separar de la clasificación, por lo que podemos mantener lo primero y prohibir lo segundo. Esa afirmación no sobrevive al contacto con el funcionamiento real de estos sistemas y, una vez que cae, el argumento a favor de una prohibición cae con ella.

Comencemos con la supuesta separación. Filtrar el material inapropiado para la edad no es una puerta binaria que se sitúa al margen del feed. Solo una pequeña fracción del contenido dañino es lo suficientemente clara como para eliminarla por completo. La vasta zona gris, como el contenido de dietas que se inclina hacia la promoción de trastornos alimentarios, los videos de estado de ánimo triste que se inclinan hacia la glorificación de la autolesión, o el contenido de fitness que se inclina hacia la dismorfia corporal, se maneja mediante la degradación: asignarle una puntuación más baja para que llegue a menos adolescentes. La degradación es clasificación. Un feed cronológico no puede degradar nada; muestra cada publicación de cada cuenta seguida en el orden en que llegó, sin posibilidad de decir que esta debería aparecer menos. Por lo tanto, cuando mi oponente dice que los sistemas de seguridad pueden operar sin un feed diseñado en torno a la clasificación, la respuesta honesta es que los sistemas de seguridad son la clasificación. Prohíba la clasificación y mantendrá la puerta binaria que atrapa los casos obvios y perderá la capa que maneja todo lo demás.

En segundo lugar, considere el problema de la definición que el oponente nunca aborda. ¿Qué cuenta como un feed basado en la participación? Todos los sistemas de clasificación funcionales utilizan alguna señal de participación, porque los clics, el tiempo de visualización y las comparticiones son la forma en que un modelo aprende que un video de tutoría es útil y una publicación de spam no lo es. Si la prohibición cubre cualquier feed que utilice señales de participación, también cubre los clasificadores de seguridad, ya que se entrenan con los mismos datos. Si, en cambio, solo cubre los feeds que maximizan la participación a expensas de otros objetivos, entonces no prohíbe casi nada, porque las principales plataformas ya combinan la participación con puntuaciones de calidad, satisfacción informada por encuestas y penalizaciones de integridad. O la prohibición es destructiva o es vacía. Una ley que exige restricciones de optimización específicas y las audita evita por completo ese dilema.

En tercer lugar, el oponente propone opciones dirigidas por el usuario como alternativa, como si los adolescentes que eligen su propio contenido fueran la base segura. El registro histórico dice lo contrario. Las comunidades pro-anorexia, los foros de autolesiones y los tablones extremistas florecieron en plataformas impulsadas por la búsqueda y el seguimiento como el antiguo Tumblr y los tablones de mensajes mucho antes de que existieran las recomendaciones modernas. Esos espacios se encontraban buscando y compartiendo enlaces entre amigos, exactamente el camino dirigido por el usuario que mi oponente respalda. Un adolescente vulnerable de quince años que sigue las cuentas equivocadas recibe una manguera de incendios cronológica de ese material sin nada en medio que la interrumpa. Los sistemas de recomendación, a pesar de sus defectos, son el único mecanismo que puede notar el patrón e inyectar recursos de crisis o redirigir hacia contenido más saludable. El oponente trata el algoritmo como la fuente de la madriguera del conejo, pero la madriguera del conejo es anterior a él; el algoritmo es la primera herramienta con la capacidad de salir.

En cuarto lugar, el oponente afirma que el uso compulsivo, la interrupción del sueño y las crisis de salud mental son consecuencias establecidas de la clasificación, pero no ofreció ninguna evidencia de que eliminar la clasificación solucione alguno de ellos. La evidencia que tenemos apunta en la dirección contraria. Cuando los investigadores cambiaron a decenas de miles de usuarios a feeds cronológicos en los estudios electorales de 2020 publicados en Science, los usuarios vieron más contenido poco confiable y su bienestar medido no mejoró. La interrupción del sueño proviene de las notificaciones y el acceso nocturno, que se abordan con límites de tiempo y horas de silencio, no con el orden del feed. La comparación social proviene de ver las vidas curadas de los compañeros, que un feed solo de seguimiento entrega de forma concentrada. La prohibición se enfoca en la variable incorrecta.

Finalmente, el oponente dice que una prohibición traza una línea en el incentivo peligroso en lugar de en las redes sociales en sí. Pero el incentivo es la atención comercial, y un feed cronológico también es comercial; simplemente recompensa a quien publica con más frecuencia. Si la verdadera preocupación es el incentivo, regule el incentivo directamente: prohíba la optimización de los feeds de los menores para el tiempo de permanencia, exija métricas de satisfacción y arrepentimiento en la función objetivo, exija auditorías independientes e imponga sanciones. Esa es una línea trazada donde realmente reside el daño. Una prohibición general, en cambio, la traza alrededor del único sistema que puede filtrar, degradar y personalizar para la seguridad, y entrega a los adolescentes un feed que no puede hacer ninguna de esas cosas. Proteger a los usuarios jóvenes significa gobernar el algoritmo, no abolirlo.

El punto más fuerte del oponente es que la clasificación puede ayudar a degradar material dañino. Pero eso no justifica la recomendación basada en la interacción: las plataformas pueden moderar, eliminar, etiquetar o limitar contenido dañino sin elegir qué mostrar a continuación según el tiempo de visualización, clics o compartidos predichos. Los controles de seguridad no son lo mismo que un feed que maximiza la atención, y se puede construir un descubrimiento útil en torno a intereses explícitos, suscripciones o valor educativo.

El oponente también argumenta que los feeds cronológicos tienen inconvenientes y que la evidencia de daño es mixta. Ninguno de los dos puntos responde a la pregunta. Una prohibición no necesita requerir un feed cronológico sin filtrar, y los efectos promedio inciertos no borran los riesgos creíbles para los adolescentes vulnerables, especialmente cuando los sistemas aprenden y explotan repetidamente lo que los mantiene comprometidos. Las auditorías propuestas y los objetivos combinados pueden ayudar, pero dejan intacto el incentivo comercial central y piden al público que confíe en métricas y sistemas que las plataformas controlan en gran medida.

Este debate no se trata de si la recomendación puede ser útil alguna vez. Se trata de si los menores deben estar sujetos a feeds que optimizan la interacción durante un período de desarrollo en el que la autorregulación aún se está formando. No deberían. Preserve la moderación y el acceso a las redes sociales, pero prohíba la clasificación basada en la interacción para menores y permita alternativas más seguras y dirigidas por el usuario. El oponente ha demostrado que los algoritmos pueden ofrecer beneficios; no que esos beneficios requieran maximizar la atención de los jóvenes.

Este debate se reduce a una pregunta: ¿eliminar la clasificación de los feeds de los menores los hace más seguros? A lo largo de tres asaltos, mi oponente nunca demostró que lo hiciera, y el terreno cedido en su refutación explica por qué.

Primero, todo el caso del oponente depende de separar la detección de seguridad de la clasificación. En la refutación, reiteraron esa separación pero nunca respondieron al mecanismo que describí. La eliminación solo maneja los casos claros. La zona gris, que es donde los adolescentes se dañan realmente, se maneja con la degradación, y la degradación es clasificación. Un feed cronológico o solo de seguimiento no tiene capacidad para mostrar una publicación menos. Mi oponente dijo que las plataformas pueden eliminar o etiquetar material dañino sin predecir la participación, lo cual es cierto e irrelevante, porque etiquetar y eliminar son exactamente las herramientas que ya existen y que ya no logran captar el video de dieta que se inclina hacia la promoción de trastornos alimentarios. La capa que lo capta es la que la prohibición abole.

Segundo, nótese cómo cambió la propuesta del oponente. La apertura pedía feeds cronológicos y elecciones dirigidas por el usuario. La refutación, después de que demostré que los feeds cronológicos aumentan la exposición a contenido de baja calidad, ofreció un nuevo menú: feeds de cuentas seguidas, selección de temas, búsqueda y recomendaciones basadas en intereses explícitos o valor educativo. Pero una recomendación basada en intereses y valor educativo es una recomendación algorítmica. Debe aprender qué es educativo a partir de señales, y esas señales son clics, finalizaciones y devoluciones, que son datos de participación. El oponente ahora defiende un sistema de recomendación regulado, que es mi posición. No han argumentado a favor de una prohibición; han argumentado a favor de una función objetivo diferente, y la forma de obtener una función objetivo diferente es mandatarla y auditarla, no prohibir el sistema que la ejecutaría.

Tercero, en cuanto a la aplicabilidad, el oponente afirma que una prohibición total es una línea más clara que las auditorías porque las auditorías se basan en definiciones de plataforma. Pero la prohibición requiere exactamente la misma definición: un regulador debe decidir qué cuenta como clasificación basada en la participación, y demostré que esa definición es o tan amplia que captura los clasificadores de seguridad o tan estrecha que no captura nada. Una regla que dice que los feeds de los menores no pueden optimizar el tiempo de permanencia, debe incluir la degradación de categorías especificadas, debe publicar su función objetivo y debe pasar una auditoría independiente con sanciones es mucho más aplicable que una prohibición vaga de un patrón de diseño que nadie ha definido. Las líneas claras se trazan en torno a la conducta medible, no en torno a una categoría que el oponente no pudo definir en tres asaltos.

Cuarto, el oponente se retiró de las afirmaciones empíricas. Su apertura afirmó el uso compulsivo, la interrupción del sueño y las crisis de salud mental como consecuencias de la clasificación. Cuando señalé que la investigación más sólida encuentra efectos pequeños e inconsistentes, y que los grandes experimentos de feeds cronológicos no produjeron ninguna mejora en el bienestar, su refutación respondió que los promedios pueden ocultar el daño a adolescentes vulnerables. Estoy de acuerdo, y ese es precisamente el argumento para la recomendación. El adolescente vulnerable de quince años que sigue las cuentas equivocadas recibe una manguera de incendios cronológica de ese contenido sin interrupción. Las comunidades pro-anorexia y de autolesiones florecieron en plataformas impulsadas por la búsqueda y por seguidores antes de que existiera la clasificación moderna. El oponente nunca respondió a esa historia. El único sistema que puede notar un patrón peligroso e intervenir es el que quieren prohibir. El sueño y el uso compulsivo se abordan con horas de silencio y límites de tiempo, que respaldé y que no dependen del orden del feed.

Quinto, el oponente desestimó la verificación de edad y la libre expresión como asuntos para salvaguardias proporcionales. Pero las salvaguardias proporcionales aún no existen, y los tribunales ya han ordenado leyes de este tipo porque la carga recae en el discurso legal y exige la verificación de identidad de cada usuario. Una prohibición que no puede sobrevivir a un tribunal y no puede implementarse sin vigilar a los niños no protege a nadie.

He aceptado en todo momento que los adolescentes merecen protección y que la optimización de la atención comercial necesita límites. El desacuerdo está en la herramienta. La refutación del propio oponente se inclinó hacia la recomendación basada en intereses y basada en la calidad, que es un algoritmo gobernado, no uno abolido. Mandate las restricciones, exija las degradaciones, audite los objetivos y castigue las violaciones. No quite el único mecanismo capaz de filtrar, degradar y personalizar para la seguridad y llame a la protección del feed resultante sin filtrar. El oponente le pidió que mantuviera las herramientas de seguridad y eliminara el incentivo, pero nunca demostró que fueran separables, y todo lo que sabemos sobre cómo funcionan estos sistemas dice que no lo son.