El sustento de un artista está cada vez más absorbido, si no dependiente, del diseño de la plataforma de redes sociales. Saber cómo rastrear tendencias, editar contenido y jugar con algoritmos para mejorar la visibilidad puede ser tan necesario como agotador. No sorprende que muchos artistas sintieran cierta tristeza cuando Meta y YouTube perdieron los veredictos del jurado en California y Nuevo México en marzo pasado. Pero, como muchas cosas en Internet, los veredictos contra los gigantes de las redes sociales ofrecieron sólo una sensación inicial de satisfacción antes de que surgieran realidades más problemáticas.
Quienes apoyan los veredictos los ven como soluciones que se necesitaban desde hace mucho tiempo. Los críticos los ven como el comienzo de un cambio legal que podría debilitar las protecciones que sustentan el discurso en línea, la moderación, la privacidad y las diversas comunidades digitales que los artistas han construido y de las que dependen. La pregunta no es simplemente si Meta y YouTube (propiedad de Alphabet, la empresa matriz de Google) merecían perder. La pregunta es si las teorías legales utilizadas contra ellos pueden separarse de los sistemas que permiten a las personas publicar, descubrir y compartir trabajos creativos en línea.
En California, un jurado ha decidido que YouTube y Meta fueron responsables de diseñar plataformas que finalmente hicieron adicta y dañaron a una mujer joven. En Nuevo México, Meta fue declarada culpable ocultar lo que la empresa sabía sobre la explotación infantil dentro de sus funciones de mensajería, permitiéndola así de manera efectiva. Al identificar el diseño de la plataforma como una fuente de daño para los usuarios jóvenes, estos casos emblemáticos se centraron no en lo que los usuarios veían, sino en cómo lo veían.
Al centrarse en el diseño de la plataforma, en lugar del contenido, los demandantes sortearon un obstáculo legal que ha protegido las plataformas en línea durante décadas: la Sección 230. Esta protección legal impedía que los sitios web fueran tratados como editores de contenido generado por los usuarios. Si una publicación, imagen o comentario malicioso aparece en línea, la responsabilidad generalmente recae en el usuario que lo creó y no en el servicio que lo alojó.
Los partidarios de la Sección 230 argumentan que esta protección hizo posible la Internet moderna al permitir que los sitios web alojaran y moderaran grandes cantidades de discurso de los usuarios. Según la doctrina predominante, la capacidad de las plataformas para ejercer discreción editorial (como la moderación) del contenido generado por el usuario equivale a su discurso protegido, por lo que no pueden enfrentar repercusiones legales por curar o eliminar contenido.
Los críticos de la Sección 230, sin embargo, creen que se ha convertido en una defensa que permite a las empresas de tecnología evitar la responsabilidad por los daños asociados con sus productos, protegiendo los sistemas opacos de la empresa del escrutinio e impidiendo descubrimientos significativos para litigios.
En lugar de argumentar que Meta y YouTube eran responsables del contenido de sus plataformas, los demandantes en casos recientes han argumentado que las empresas eran responsables de las características de diseño que moldeaban la forma en que los usuarios interactuaban con ese contenido. Caracterizaron herramientas como la reproducción automática, las recomendaciones, las notificaciones, los me gusta y el desplazamiento infinito como opciones de diseño de productos, no decisiones editoriales, que promovían el uso adictivo. Al enmarcar el presunto daño como resultado del diseño de la plataforma en lugar del contenido generado por el usuario, los demandantes finalmente evitaron los importantes obstáculos que la Sección 230 a menudo plantea a tales reclamos.
Separar el contenido del diseño
Independientemente de las conclusiones de los tribunales, muchos defensores de los derechos digitales dicen que el diseño de una plataforma no es inherentemente dañino y que cualquier daño que pueda ocurrir es inseparable del discurso distribuido por la plataforma. Imagine un feed de redes sociales lleno enteramente de imágenes de pintura secándose, como TechDirt El fundador Mike Masnick ofreció como ejemplo.. Si el diseño de la plataforma siguiera siendo exactamente el mismo (reproducción automática, notificaciones automáticas, desplazamiento infinito, recomendaciones algorítmicas), ¿seguiría considerándose adictiva o dañina? Masnick afirma que si la respuesta es no, entonces la fuente del supuesto daño no es el diseño en sí, sino el contenido que se transmite a través de él: el habla.
Esta distinción es importante porque la teoría jurídica subyacente a estos casos dependía de considerar el diseño como algo separado del discurso. Si el impacto del diseño de una plataforma depende del discurso que fluye a través de ella, entonces regular el diseño puede equivaler en última instancia a regular la distribución del discurso. Desde esta perspectiva, los sistemas de recomendación, los feeds y los algoritmos de clasificación no son simplemente características del producto: son mecanismos a través de los cuales las plataformas organizan y presentan expresión.
Foto de Berke Citak en Unsplash
El resultado de estos casos no será la eliminación de todos los elementos de diseño que nos mantienen pegados a nuestros teléfonos. En cambio, es una posible reducción de las protecciones de la Sección 230 al permitir a los demandantes caracterizar las decisiones sobre cómo se muestra, recomienda, prioriza o elimina el contenido como opciones de diseño de producto en lugar de opciones editoriales. Si los tribunales aceptaran esta distinción, las plataformas podrían enfrentar responsabilidad por la forma en que presentan el contenido generado por el usuario, incluso cuando el contenido en sí sigue protegido por la Sección 230. Los críticos advierten que tal cambio provocaría más litigios y erosionaría el límite legal entre el diseño de la plataforma y el juicio editorial.
Los cientos de millones de dólares que Meta y la empresa matriz de YouTube, Alphabet, deben ahora a los demandantes en estos casos ciertamente llaman la atención. Pero la pregunta no es si estos gigantes tecnológicos sobrevivirán a estos veredictos. La pregunta es si la próxima generación de plataformas podrá sobrevivir a las demandas que provocan. Se espera que el veredicto afecte a unas 2.000 demandas pendientes de padres y distritos escolares contra empresas de redes sociales en Estados Unidos, muchas de las cuales ya están en marcha. (YouTube acaba de arreglarlo una de esas demandas presentada por un adolescente en Florida, aunque las demandas del demandante contra Meta, TikTok y Snap Inc están en curso).
«Crear una responsabilidad significativa sobre las elecciones de diseño alentará a las empresas de redes sociales a detener por completo la moderación de contenido o cerrar debido al enorme riesgo legal», Erika Sanders, asesora principal de la Coalición Nacional Contra la Censura.dice El diario de arte. Los costos del litigio pueden alcanzar millones de dólares incluso antes del juicio, sumas que Meta puede estar dispuesta a pagar pero que las empresas más pequeñas ciertamente no podrían sobrevivir.
Sanders añade: «Veredictos del jurado como este probablemente harán que las grandes plataformas de redes sociales sean menos fáciles de usar y, al mismo tiempo, alejarán a las plataformas más pequeñas que no pueden permitirse el lujo de asumir el riesgo».
Quienes sí lo hacen a menudo apoyan las sentencias contra Meta y el debilitamiento más amplio de la Sección 230. indicar analogías familiares: cigarrilloscinturones de seguridad y otras normas de seguridad del producto. Pero a diferencia de los cinturones de seguridad y los cigarrillos, las redes sociales no son un producto físico que existe independientemente de su uso: son un medio para hablar. Esta distinción es importante porque centrarse en el diseño de productos para la rendición de cuentas no se limita a los sistemas de recomendación. Se extiende a la arquitectura de la comunicación misma.
En Nuevo México, el cifrado de extremo a extremo de Meta se caracterizó como una elección de diseño perjudicial. Sin embargo, el cifrado no es una característica estética del diseño de una plataforma. Es una tecnología de privacidad fundamental que a menudo protege a grupos vulnerables y marginados de la vigilancia, el abuso y la filtración de datos, incluidos artistas y activistas en regímenes opresivos. Tras los veredictos, Meta se retiró protecciones de cifrado de extremo a extremo de sus servicios de mensajería de Instagram.
¿El amanecer de una nueva Internet?
¿Qué tipo de Internet resulta de estas sentencias y los precedentes que sientan? Mientras exigimos responsabilidad a estas cajas negras, plataformas todopoderosas que curan nuestras vidas, nuestros medios de vida e incluso nuestra creatividad, vale la pena preguntar qué desaparece cuando las plataformas se vuelven legalmente responsables no sólo de lo que dicen los usuarios, sino de cómo ayudan a los usuarios a encontrarse entre sí. Sanders sostiene que las plataformas que enfrentan una mayor responsabilidad se volverán más cautelosas y se alejarán de cualquier contenido que posiblemente pueda crear exposición legal. El resultado, advierte, podría ser una mayor censura del arte controvertido o provocativo en línea y menos hogares digitales para los artistas a medida que las plataformas más pequeñas desaparezcan bajo el peso del riesgo legal.
Foto de Camilo Jiménez en Unsplash
Eric Goldman, decano asociado de investigación de la Facultad de Derecho de la Universidad de Santa Clara, advierte que las consecuencias a largo plazo pueden ser sentidas de manera más aguda por los creadores más pequeños y las comunidades de nicho que por las plataformas mismas.
«Estoy muy preocupado por la capacidad futura de los artistas y creadores más pequeños para expresarse en línea. Los editores de Internet ya sienten una gran presión para atender a los intereses principales de maneras que excluyen perspectivas nuevas o específicas», dice Goldman. «Sin protecciones sólidas para los editores de Internet, como la Sección 230, las obligaciones legales cada vez mayores impuestas a los editores de Internet aumentarán aún más esa presión».
Vale la pena señalar qué partes interesadas no han tenido voz en los tribunales durante estos juicios históricos: activistas de regímenes políticos que dependen de las redes sociales para protestar y sobrevivir, personas con discapacidad que dependen de plataformas comunitarias, grupos marginados que encuentran apoyo y educación en línea, y artistas cuyos medios de vida y audiencias se construyen en las redes sociales.
Para estas comunidades, este no es un cambio abstracto. Cuando las plataformas enfrentan presión y responsabilidad legal, la historia lo demuestra que su respuesta a menudo es moderar demasiado o eliminar las protecciones por completo, siendo la expresión artística una de las primeras víctimas. Una plataforma que corrige en exceso puede no simplemente eliminar contenido dañino, sino que puede restringir la visibilidad, limitar los sistemas de recomendación o evitar alojar cualquier cosa que pueda generar exposición legal.
Quienes aplaudieron los veredictos en California y Nuevo México, y anticipan que habrá muchos más, no se equivocan al exigir responsabilidad y rendición de cuentas a las plataformas que nos conectan a todos. Pero los afectados por estos fallos no son sólo las propias empresas, sino que también incluyen a las comunidades que dependen de ellas: artistas, activistas, usuarios marginados y audiencias que dependen de estos sistemas para encontrarse.
