TL;DR: Por primera vez, Meta está pidiendo a su junta de supervisión que elabore reglas más claras sobre cuándo la compañía debe imponer prohibiciones permanentes (la sanción más severa que Meta puede imponer a los usuarios que infrinjan las reglas) después de deshabilitar una cuenta de Instagram de alto perfil el año pasado. La medida podría fortalecer el programa de aplicación de Meta, mientras que los usuarios y los grupos de derechos digitales advierten que las prohibiciones conllevan consecuencias financieras, políticas y sociales.
Qué pasó: Meta ha pedido a su consejo de supervisión que evalúe cuándo deberían aplicarse baneos permanentes a los usuarios de sus plataformas, y lo está haciendo a través de un caso específico.
La compañía pidió a la junta que considerara una cuenta de Instagram de “alto perfil” que fue inhabilitada permanentemente el año pasado por violaciones repetidas y graves, incluidas amenazas y acoso contra un periodista e “insultos anti-gay contra políticos prominentes”. La cuenta no había acumulado suficientes avisos para una prohibición automática, pero Meta llamó de todos modos. Hoy el consejo anunció que revisará el caso y hará sus recomendaciones dentro de las próximas semanas.
Actualmente, Meta ya prohíbe permanentemente a los usuarios, pero normalmente lo hace silenciosamente y después de múltiples ataques por violaciones de los estándares comunitarios de Meta. No existe una lista de verificación pública de lo que conduce a una prohibición permanente, aunque las cuentas vinculadas al terrorismo, el odio organizado, la explotación infantil o las repetidas amenazas violentas pueden desactivarse por completo sin una acumulación de huelgas.
El comité de supervisión semiindependiente, a menudo descrito como el tribunal supremo interno de la plataforma, puede emitir recomendaciones que Meta se compromete públicamente a considerar pero que no está obligado a implementar.
¿Qué importa?: Cada vez hay más presión para que Meta explique cómo decide quién es eliminado permanentemente de sus plataformas. Los creadores, activistas y pequeñas empresas se han quejado durante mucho tiempo de que las cuentas pueden desaparecer de la noche a la mañana sin dar muchas explicaciones ni margen de apelación.
Noticias tecnológicas que dan sentido a un mundo que cambia rápidamente.
Tech Brew desglosa las principales noticias tecnológicas, innovaciones emergentes, herramientas para el lugar de trabajo y tendencias culturales para que pueda comprender las novedades y por qué son importantes.
Una prohibición permanente de las metaplataformas puede ser el equivalente digital del exilio: aislarse de amigos, familiares y comunidades vecinales, y perder el acceso a fotografías y publicaciones que podrían durar décadas. El Observatorio se creó después de años de reacciones violentas por decisiones de moderación opacas, incluidos casos en los que los usuarios perdieron el acceso a sus cuentas o se eliminó contenido sin explicación, y acusaciones de larga data de que Instagram aplicaba de manera inconsistente las reglas del discurso político. Ser excluido de una plataforma importante puede significar perder el acceso a herramientas de comunicación esenciales, redes comunitarias o incluso una fuente principal de ingresos.
Por qué ahora: Meta confía al Observatorio un marco político crucial en un momento en el que está bajo constante escrutinio y moderación. Los deepfakes y las estafas de suplantación de identidad generados por IA están explotando más rápido de lo que las herramientas de aplicación de la ley pueden mantener, mientras los gobiernos están aumentando la presión sobre la seguridad de los adolescentes, incluidas las restricciones de edad en las redes sociales. Al mismo tiempo, Meta utiliza inteligencia artificial para moderar automáticamente el contenido, lo que puede actuar rápidamente pero también cometer errores radicales.
Para aumentar la tensión: El año pasado, Meta dijo que flexibilizaría la moderación para que los usuarios pudieran disfrutar de «más palabras», reemplazando la verificación de datos de terceros con notas de la comunidad y eliminando restricciones en algunas categorías de contenido. El cambio provocó un cauteloso aplauso de algunos defensores de la libertad de expresión y duras críticas de legisladores y grupos de libertades civiles que advirtieron que podría debilitar las barreras de seguridad justo cuando el daño en línea está aumentando.
¿Qué sigue? Las recomendaciones del organismo de control podrían hacer que la aplicación de las prohibiciones sea más coherente y transparente. O podrían codificar y legitimar Meta entregando más permisos permanentes, dándole una cobertura más sólida para eliminar cuentas y dando a los usuarios pocos recursos. —semana
