Rolando Daza
En el documental de 2018 “The Cleaners”, un joven de Manila, Filipinas, explica su trabajo como moderador de contenidos: “Vemos las imágenes en la pantalla. Luego revisa las imágenes y elimina aquellas que no cumplen con las pautas. La cuota diaria de fotografías es de 25.000”. Mientras habla, hace clic con el mouse, eliminando imágenes ofensivas y permitiendo que otros permanezcan en línea.
El hombre de Manila es uno de los miles de moderadores de contenidos que trabajan como contratistas por las plataformas de redes sociales (10.000 sólo en Google). La moderación de contenidos a escala industrial como ésta, forma parte de la experiencia cotidiana de los usuarios de las redes sociales. Ocasionalmente, se elimina una publicación que alguien hace, o se permite que una publicación que alguien considera ofensiva se vuelva viral.
De manera similar, las plataformas agregan y eliminan funciones sin la participación de las personas más afectadas por esas decisiones. Ya sea que esté indignado o imperturbable, la mayoría de la gente no piensa mucho en la historia de un sistema en el que las personas en las salas de conferencias de Silicon Valley y Manila determinan sus experiencias en línea.
Pero ¿por qué unas pocas empresas –o unos pocos propietarios multimillonarios– deberían tener el poder de decidir todo sobre los espacios en línea que utilizan miles de millones de personas? Este modelo irresponsable de gobernanza ha llevado a partes interesadas de todo tipo a criticar las decisiones de las plataformas como arbitrarias, corruptas o irresponsables. En los primeros días de la Internet social, antes de la existencia de la Web, las decisiones sobre los espacios en los que las personas se reunían en línea a menudo las tomaban miembros de la comunidad. Nuestro examen de la historia temprana de la gobernanza en línea sugiere que las plataformas de redes sociales podrían regresar –al menos en parte– a modelos de gobernanza comunitaria para abordar su crisis de legitimidad.
El documental ‘The Cleaners’ muestra algunos de los costos ocultos del enfoque de servicio al cliente de las Big Tech para la moderación de contenidos.
Gobernanza en línea: una historia
En muchos de los primeros espacios en línea, la gobernanza estaba a cargo de miembros de la comunidad, no de profesionales. Uno de los primeros espacios en línea, LambdaMOO , invitaba a los usuarios a construir su propio sistema de gobernanza, que transfería el poder de las manos de quienes técnicamente controlaban el espacio (administradores conocidos como “magos”) a los miembros de la comunidad. Esto se logró mediante un proceso de petición formal y un conjunto de mediadores designados que resolvieron los conflictos entre los usuarios.
Otros espacios tuvieron procesos más informales para incorporar los aportes de la comunidad. Por ejemplo, en los sistemas de tableros de anuncios, los usuarios votaban con sus billeteras, eliminando apoyo financiero crítico si no estaban de acuerdo con las decisiones tomadas por los administradores del sistema. Otros espacios, como los grupos de noticias de Usenet basados en texto, dieron a los usuarios un poder sustancial para dar forma a sus experiencias. Los grupos de noticias dejaron en su lugar el spam obvio, pero brindaron a los usuarios herramientas para bloquearlo si así lo deseaban. Los administradores de Usenet argumentaron que era más justo permitir que cada usuario tomara decisiones que reflejaran sus preferencias individuales en lugar de adoptar un enfoque único para todos.
La web gráfica amplió el uso de Internet de unos pocos millones de usuarios a cientos de millones en una década, entre 1995 y 2005. Durante esta rápida expansión, la gobernanza comunitaria fue reemplazada por modelos de gobernanza inspirados en el servicio al cliente, que se centraban en la escala y el costo.
Este cambio de la gobernanza comunitaria al servicio al cliente tenía sentido para las empresas de rápido crecimiento que constituyeron el auge de Internet de finales de los años noventa. Prometiendo a sus inversores que podrían crecer rápidamente y realizar cambios rápidamente, las empresas buscaron enfoques para el complejo trabajo de gobernar los espacios en línea que centralizaran el poder y aumentaran la eficiencia.
Si bien este modelo de gobernanza de servicio al cliente permitió que los primeros sitios de contenido generado por usuarios, como Craigslist y GeoCities, crecieran rápidamente, preparó el escenario para la crisis de legitimidad que enfrentan las plataformas de redes sociales en la actualidad. Las batallas contemporáneas en torno a las redes sociales tienen sus raíces en el sentido de que las personas y los procesos que gobiernan los espacios en línea no rinden cuentas ante las comunidades que se reúnen en ellos.
Caminos hacia el control comunitario
La implementación de la gobernanza comunitaria en las plataformas actuales podría adoptar varias formas diferentes, algunas de las cuales ya se están experimentando.
Los consejos asesores como el Consejo de Supervisión de Meta son una forma de involucrar a partes interesadas externas en la gobernanza de la plataforma, proporcionando una revisión independiente, aunque limitada, de las decisiones de la plataforma. X (anteriormente Twitter) está adoptando un enfoque más democrático con su iniciativa Community Notes, que permite a los usuarios contextualizar la información en la plataforma mediante notas y calificaciones de crowdsourcing.
Algunos pueden cuestionar si la gobernanza comunitaria se puede implementar con éxito en plataformas que atienden a miles de millones de usuarios. En respuesta, señalamos Wikipedia. Está totalmente gobernado por la comunidad y ha creado una enciclopedia abierta que se ha convertido en el principal recurso de información en muchos idiomas. Wikipedia es sorprendentemente resistente al vandalismo y el abuso, con procedimientos sólidos que garantizan que un recurso utilizado por miles de millones siga siendo accesible, preciso y razonablemente civilizado.
En una escala más pequeña, el autogobierno total –que se hace eco de los primeros espacios en línea– podría ser clave para las comunidades que atienden a subconjuntos específicos de usuarios. Por ejemplo, Archive of Our Own se creó después de que los autores de fanfiction (personas que escriben historias originales utilizando personajes y mundos de libros, programas de televisión y películas publicados) encontraran que las plataformas existentes no eran acogedoras. Por ejemplo, muchos autores de fanfiction fueron expulsados de las plataformas de redes sociales debido a una aplicación excesiva de los derechos de autor o a preocupaciones sobre el contenido sexual.
Hartos de plataformas que no entendían su trabajo ni su cultura, un grupo de autores diseñó y construyó su propia plataforma específicamente para satisfacer las necesidades de su comunidad. AO3, como se le conoce coloquialmente, atiende a millones de personas al mes, incluye herramientas específicas para las necesidades de los autores de fanfiction y está gobernado por las mismas personas a las que atiende.
X, anteriormente Twitter, permite a las personas usar Notas de la comunidad para agregar información relevante a publicaciones que contienen imprecisiones.
Los modelos híbridos, como en Reddit, combinan centralización y autogobierno. Reddit alberga una colección de comunidades basadas en intereses llamadas subreddits que tienen sus propias reglas, normas y equipos de moderadores. Detrás de la estructura de gobernanza de un subreddit hay un conjunto de reglas, procesos y características que se aplican a todos. No todos los subreddit son un excelente ejemplo de una comunidad en línea saludable, pero hay más que lo son.
También existen enfoques técnicos para la gobernanza comunitaria. Un enfoque permitiría a los usuarios elegir los algoritmos que seleccionan sus feeds de redes sociales. Imagine que en lugar de poder utilizar únicamente el algoritmo de Facebook, pudiera elegir entre un conjunto de algoritmos proporcionados por terceros (por ejemplo, de The New York Times o Fox News).
Plataformas más radicalmente descentralizadas como Mastodon delegan el control a una red de servidores que tienen una estructura similar al correo electrónico. Esto hace que sea más fácil elegir una experiencia que coincida con sus preferencias. Puede elegir qué servidor Mastodon usar y cambiar fácilmente (al igual que puede elegir si desea usar Gmail o Outlook para el correo electrónico) y puede cambiar de opinión, todo mientras mantiene el acceso a la red de correo electrónico más amplia.
Además, los avances en la IA generativa, que se muestran prometedores en la producción de códigos informáticos, podrían facilitar que las personas, incluso aquellas sin conocimientos técnicos, creen espacios en línea personalizados cuando consideren que los espacios existentes no son adecuados. Esto aliviaría la presión sobre los espacios en línea para que sean todo para todos y respaldaría un sentido de agencia en la esfera pública digital.
También hay formas más indirectas de apoyar la gobernanza comunitaria. Una mayor transparencia –por ejemplo, proporcionando acceso a datos sobre el impacto de las decisiones de las plataformas– puede ayudar a los investigadores, los formuladores de políticas y el público a exigir responsabilidades a las plataformas en línea. Además, fomentar normas profesionales éticas entre ingenieros y diseñadores de productos puede hacer que los espacios en línea sean más respetuosos con las comunidades a las que sirven.
Avanzar retrocediendo
De aquí a finales de 2024, están previstas elecciones nacionales en muchos países, incluidos Argentina, Australia, India, Indonesia, México, Sudáfrica, Taiwán, el Reino Unido y Estados Unidos. Es casi seguro que esto conducirá a conflictos por los espacios en línea.
Creemos que es hora de considerar no sólo cómo se pueden gobernar los espacios en línea de manera eficiente y al servicio de los resultados corporativos, sino también cómo se pueden gobernar de manera justa y legítima. Darle a las comunidades más control sobre los espacios en los que participan es una forma comprobada de lograr precisamente eso.
