Prohibir los feeds algorítmicos para menores

Los gobiernos deberían prohibir los feeds de recomendación algorítmica para menores de 18 años. Esto no significa prohibir las redes sociales para los adolescentes. Significa exigir que lo que los jóvenes ven provenga de cuentas y comunidades que eligieron, mostrado en un orden cronológico neutral. Mi argumento se basa en tres puntos.

Primero, estos feeds están diseñados para explotar las debilidades a las que los adolescentes son especialmente propensos. Los algoritmos que optimizan la participación aprenden por prueba y error qué mantiene a cada usuario desplazándose: recompensas variables, comparación social, indignación y novedad. La investigación cerebral muestra consistentemente que las partes del cerebro adolescente sensibles a la recompensa se desarrollan antes que las áreas prefrontales que manejan el control de impulsos y la planificación a largo plazo. Un sistema que se ajusta para maximizar el tiempo en la aplicación, dirigido a un cerebro que aún está desarrollando su autocontrol, no es una competencia justa. Ya aceptamos este razonamiento en otros ámbitos. Restringimos las apuestas, la publicidad de tabaco y el alcohol para menores porque algunos productos aprovechan las vulnerabilidades del desarrollo. Un feed infinito y personalizado diseñado para captar la atención pertenece a la misma categoría.

Segundo, la evidencia de daño es grave y creciente. Desde principios de la década de 2010, cuando los feeds algorítmicos y los teléfonos inteligentes se generalizaron, las tasas de depresión, ansiedad, autolesiones y soledad en adolescentes han aumentado drásticamente en muchos países. La propia investigación interna de las plataformas, revelada a través de filtraciones de denunciantes, encontró que los sistemas de recomendación podían empeorar los problemas de imagen corporal en las adolescentes y dirigir a los usuarios vulnerables hacia contenido sobre trastornos alimentarios y autolesiones. El Cirujano General de EE. UU. ha emitido una advertencia sobre los riesgos de las redes sociales para la salud mental de los jóvenes. El problema central no es un puñado de publicaciones malas. Es que el motor de recomendación empuja activamente a un niño más profundamente en lo que sea que capte su atención, incluso cuando ese material es perjudicial para ellos.

Tercero, un feed cronológico soluciona el diseño en sí mismo, que es por lo que funciona mejor que las alternativas. Filtrar contenido y agregar controles parentales son útiles, pero siempre van a la zaga. Los moderadores no pueden seguir el ritmo de miles de millones de publicaciones, el contenido dañino se renombra más rápido de lo que se puede marcar, y los controles parentales dependen de que los padres tengan el tiempo, la habilidad y la conciencia que muchas familias carecen. Eso deja a los niños más vulnerables menos protegidos. Un feed cronológico elimina la fuerza impulsora detrás del daño. Los adolescentes aún pueden seguir a amigos, unirse a grupos de estudio, encontrar creadores que les gusten, buscar material educativo y participar en comunidades. Lo único que se pierde es un sistema automatizado que decide qué poner delante de ellos para maximizar la participación. La regla también es simple de redactar, verificar y hacer cumplir, y varias jurisdicciones, incluida Nueva York con su Ley SAFE para Niños, ya se están moviendo en esta dirección.

Mi oponente dirá que los algoritmos ayudan a los jóvenes a encontrar comunidades valiosas. Pero el descubrimiento no requiere manipulación. La búsqueda, los seguimientos, las suscripciones a temas y las recomendaciones de amigos permiten a los jóvenes encontrar el club de ajedrez, el foro de codificación o el grupo de apoyo LGBTQ, y lo hacen en los términos del adolescente. Cuando un algoritmo casualmente muestra algo útil, eso es un efecto secundario. Su propósito real es mantener a los usuarios en la plataforma. No deberíamos aceptar un sistema dañino para todos porque a veces produce un buen resultado.

Esta propuesta deja intacto el acceso de los jóvenes a la información y entre sí. Lo que elimina es el modelo de negocio que convierte su atención en ganancias a costa de su salud mental. Por esas razones, los gobiernos deberían prohibir los feeds algorítmicos para menores.

Los gobiernos deben proteger a los menores de los feeds manipuladores, pero prohibir todas las recomendaciones algorítmicas es demasiado drástico. Un sistema de recomendación puede ayudar a un adolescente a encontrar un tutorial de matemáticas, una comunidad de apoyo para discapacidades o compañeros que compartan un interés poco común. Un feed cronológico no es intrínsecamente más seguro: todavía puede mostrar contenido dañino, al tiempo que dificulta la búsqueda de recursos útiles.

El verdadero objetivo deberían ser los diseños perjudiciales, no cada uso de la personalización. Los gobiernos pueden exigir a las plataformas que limiten las funciones adictivas, que apliquen salvaguardias de contenido apropiadas para la edad, que ofrezcan a los menores una opción clara para desactivar las recomendaciones y que proporcionen controles parentales prácticos. Esas normas abordan los riesgos sin aislar a los jóvenes de las conexiones educativas y sociales que las recomendaciones pueden ayudarles a descubrir.

Mi oponente está de acuerdo con más partes de mi argumento de lo que rechaza. Aceptan que los feeds manipuladores dañan a los menores y que los gobiernos deberían intervenir. La única pregunta que queda es si la opción predeterminada para los niños debería ser el feed optimizado para la participación con algunas salvaguardias añadidas, o un feed neutral que los jóvenes configuran ellos mismos. Abordaré sus tres argumentos uno por uno.

Primero, dicen que las recomendaciones ayudan a un adolescente a encontrar un tutorial de matemáticas, una comunidad de apoyo para discapacidades o compañeros con intereses inusuales. Mi propuesta mantiene abiertas todas esas vías. Un estudiante que necesita ayuda con álgebra la busca. Un adolescente que acaba de ser diagnosticado con una condición puede buscar grupos de apoyo, seguir hashtags, unirse a comunidades, suscribirse a temas y recibir consejos de amigos, médicos y maestros. Lo que mi propuesta elimina es un feed que observa cuánto tiempo permanecen los ojos de un niño en cada publicación y le ofrece más de lo que lo retiene. Mi oponente no ha demostrado que alguien necesite ese mecanismo para encontrar un tutorial. Solo han demostrado que a veces produce uno. El mismo sistema que sugiere la comunidad de apoyo también sugiere el video de dietas extremas, porque no los distingue. Solo mide cuán atractivo es cada uno.

Segundo, dicen que un feed cronológico no es intrínsecamente más seguro porque el contenido dañino aún puede aparecer. Ninguna regla elimina todo el riesgo, pero esta objeción omite de dónde proviene el daño. En un feed cronológico, un niño ve publicaciones de cuentas que eligió seguir, en el orden en que se publicaron. No hay un motor que note que un adolescente triste se detuvo en una publicación sobre autolesiones y luego le envíe diez más. La madriguera del conejo, la escalada paso a paso hacia contenido sobre trastornos alimentarios o autolesiones que la propia investigación interna de las plataformas documentó, es creada por la amplificación algorítmica. Quita el amplificador y una publicación dañina sigue siendo una publicación. No se convierte en un torrente.

Tercero, proponen abordar el diseño dañino a través de salvaguardias de contenido, una opción de exclusión y controles parentales. El motor de recomendación optimizado para la participación es el diseño dañino, por lo que su plan deja el problema central intacto y pide a los reguladores que lo gestionen desde afuera. Considere cada parte:

• Las salvaguardias de contenido significan moderar miles de millones de publicaciones después del hecho, y el contenido dañino se vuelve a etiquetar más rápido de lo que se puede marcar. Este es el juego de ponerse al día que ya ha fracasado.
• Una opción de exclusión deja el feed manipulador activado por defecto y pide a las mismas personas con el menor control de impulsos que lo desactiven. Los valores predeterminados deciden los resultados. Las plataformas tienen todas las razones financieras para ocultar esa configuración, agregarle fricción y redirigir a los usuarios. El propio argumento de mi oponente sobre la vulnerabilidad adolescente explica por qué los adolescentes rara vez lo usarán.
• Los controles parentales protegen a los niños cuyos padres tienen el tiempo, la habilidad técnica y la conciencia para usarlos. Los niños con mayor riesgo, de hogares sobrecargados, con dificultades o desvinculados, no reciben nada. Mi oponente no respondió a este problema de equidad de mi intervención inicial.

También hay un problema de aplicación. Su enfoque haría que los reguladores juzgaran, dentro de sistemas propietarios de "caja negra", qué tipos de personalización cuentan como "dañinos" y cuáles como "útiles". Ese estándar se puede debatir para siempre, y las plataformas explotarán la brecha. Una regla que dice que los feeds para menores no deben clasificarse por datos de participación conductual es clara, se puede auditar y ya se está incorporando a la ley en lugares como Nueva York.

Por lo tanto, la elección no es entre acceso y protección. Bajo mi propuesta, los adolescentes conservan a sus amigos, sus comunidades, la búsqueda y todos los recursos educativos que puedan consultar. Lo que pierden es un sistema construido para convertir su atención en ingresos. Mi oponente ofrece salidas opcionales de un diseño dañino. Propongo eliminar ese diseño como opción predeterminada para los niños, razón por la cual una prohibición es la política más sólida.

Mi oponente tiene razón en que los feeds que maximizan la interacción pueden explotar las vulnerabilidades de los adolescentes. Pero ese es un argumento para prohibir el diseño manipulador, no todas las recomendaciones algorítmicas. Un sistema que sugiere una lección de matemáticas relevante o un grupo de apoyo moderado no es equivalente a uno que clasifica las publicaciones por el tiempo de desplazamiento predicho. Una prohibición general trata a ambos por igual.

Las preocupaciones sobre la salud mental son serias, pero el aumento de la angustia adolescente junto con el uso de las redes sociales no establece que todas las fuentes personalizadas la causen. Las divulgaciones de las plataformas sobre recomendaciones dañinas respaldan reglas firmes contra la amplificación de contenido sobre trastornos alimentarios y autolesiones; no demuestran que un feed cronológico sea una cura. Un adolescente aún puede encontrar material dañino a través de cuentas seguidas, y las publicaciones impulsadas por la popularidad aún pueden propagarse a través de amigos.

Tampoco la búsqueda es un sustituto completo del descubrimiento. Un joven que no sabe que existe una comunidad útil no puede buscar su nombre. Esto es especialmente importante para los adolescentes con intereses poco comunes o apoyo local limitado.

La política más sólida es prohibir la optimización basada en la interacción para menores, exigir salvaguardias de recomendación apropiadas para la edad y auditorías independientes, y hacer que una opción cronológica sea fácil de elegir por defecto. Los controles parentales deben agregar protección, no cargar con toda la responsabilidad. Ese enfoque se dirige al mecanismo que teme mi oponente al tiempo que preserva formas beneficiosas para que los jóvenes encuentren ayuda y aprendan.

Al final de este debate, mi oponente ha aceptado el núcleo de mi argumento. Su propuesta final prohibiría la optimización basada en la interacción para menores y haría que un feed cronológico fuera la opción predeterminada. Eso está muy cerca de lo que defendí. Lo que nos separa es estrecho: ¿se debería permitir a las plataformas mantener algunos sistemas de recomendación conductual para niños, con la promesa de que estos sistemas son del tipo "tipo bueno"? Yo digo que no, por tres razones.

Primero, la línea que mi oponente quiere trazar no se puede hacer cumplir. Él imagina un recomendador inofensivo que sugiere una lección de matemáticas, separado de uno dañino que clasifica las publicaciones por tiempo de visualización. En una plataforma real, ambos son el mismo sistema. Un recomendador construido con los datos conductuales de un niño aprende de lo que el niño hace clic, mira y en lo que se detiene, y la empresa le paga para aumentar la interacción. Decir que sugiere contenido "relevante" solo renombra la interacción. La respuesta de mi oponente son auditorías de salvaguardias apropiadas para la edad. Eso pide a los reguladores que miren dentro de cajas negras propietarias, una y otra vez, y decidan qué personalización es aceptable. Las plataformas tienen los datos, los abogados y todas las razones financieras para empujar ese límite. Mi regla es simple: los feeds que se muestran a los menores no pueden clasificarse utilizando sus datos conductuales. Es claro, se puede auditar y Nueva York ya lo está incorporando a la ley. Si una política no se puede hacer cumplir, no protege a nadie.

Segundo, la objeción de descubrimiento no se sostiene. Mi oponente dice que un adolescente no puede buscar una comunidad que no sabe que existe. Pero mi propuesta no limita el descubrimiento a la búsqueda. Los amigos comparten enlaces. Los maestros, consejeros y médicos refieren a los jóvenes a recursos. Las comunidades se señalan mutuamente. Los hashtags y las suscripciones de temas muestran lo que hay. Las plataformas aún pueden ofrecer directorios curados que no están personalizados, como grupos de estudio destacados u organizaciones de apoyo verificadas. Lo único que desaparece es una máquina que rastrea el comportamiento de un niño vulnerable y decide qué mostrarle a continuación. A lo largo de este debate, mi oponente no ha dado un solo ejemplo de ayuda a la que un joven solo pueda llegar a través de la perfilación conductual.

Tercero, el daño que acordamos proviene del amplificador. Mi oponente dice que un feed cronológico no es una cura completa porque una publicación dañina aún puede provenir de una cuenta que alguien sigue. Estoy de acuerdo. Ninguna política elimina todos los riesgos. Pero el peligro que ambas partes han reconocido es la escalada: un adolescente triste de catorce años se detiene en una publicación y luego se le muestra un flujo constante de contenido de autolesiones o dietas extremas. La propia investigación interna de las plataformas documentó este "agujero de conejo", y sucede porque un algoritmo amplifica el contenido. Cuando eliminas el amplificador, una publicación dañina sigue siendo una sola publicación. Los filtros de contenido y los controles parentales pueden lidiar con lo que queda, lo cual es mucho más fácil que intentar contener un motor diseñado para empujar más.

Así que aquí está la elección. Mi oponente ofrece un compromiso que aún depende de que las empresas diseñen algoritmos que funcionen en contra de su propio modelo de negocio, de que los reguladores ganen argumentos sobre definiciones que nunca terminan, y de niños y padres que tienen que administrar configuraciones que las plataformas pueden ocultar. Yo ofrezco una regla clara que protege a todos los niños por igual, sin importar el tiempo o la habilidad técnica de su familia, y mantiene intactas las amistades, las comunidades, la búsqueda y la educación. Lo único que se pierde es un sistema que convierte la atención adolescente en ingresos a expensas de la salud mental de los jóvenes. Los gobiernos deberían prohibir los feeds de recomendación algorítmica para menores.

Mi oponente ha identificado un peligro real: los "feeds" optimizados para mantener a los adolescentes navegando pueden amplificar material dañino. Pero eso no justifica la prohibición de todas las recomendaciones algorítmicas. La distinción relevante es entre optimizar para la participación y ayudar a un joven a encontrar una lección relevante o una comunidad de apoyo moderada. Una prohibición generalizada borra esa distinción.

Las búsquedas y los "feeds" cronológicos siguen siendo útiles, pero no son sustitutos completos del descubrimiento. Un adolescente no puede buscar un recurso que no sabe que existe, y las publicaciones dañinas aún pueden circular a través de las cuentas que sigue. Tampoco la evidencia de graves riesgos para la salud mental establece que todas las formas de personalización sean dañinas o que la cronología por sí sola resuelva esos riesgos.

Los gobiernos pueden establecer un valor predeterminado más sólido sin imponer una prohibición generalizada: prohibir la optimización basada en la participación para menores, exigir salvaguardias contra recomendaciones dañinas y auditorías independientes, y hacer que un "feed" cronológico sea el predeterminado con controles parentales significativos disponibles. Esto aborda directamente las preocupaciones del oponente sobre adolescentes vulnerables, "opt-outs" débiles y una supervisión parental desigual, al tiempo que preserva el descubrimiento beneficioso. Proteja a los jóvenes del diseño manipulador, no de todas las herramientas que les ayudan a aprender y conectarse.