La “Suprema Corte” de Facebook

Cuando aún no existen consensos claros sobre las garantías que deben ofrecer las grandes plataformas de internet en cuanto a su moderación de contenidos, Facebook puso en marcha su propio tribunal de expertos, un mecanismo inédito que promete ser el eje del debate en los próximos años.

Tras una primera década de oro en la que internet parecía destinada a democratizar la libertad de expresión, ayudar a reducir la desigualdad y darles voz a quienes luchan contra los regímenes autoritarios, el paso del tiempo nos muestra una vez más que la historia no es lineal. En efecto, en los últimos diez años hemos presenciado el crecimiento de fenómenos problemáticos en relación con contenidos que circulan en las redes sociales, al punto de que en varios países hicieron tambalear el sistema democrático.

Una lista rápida de estos fenómenos debe incluir la desinformación interesada sobre diferentes asuntos, mensajes virales incitando a la violencia contra grupos vulnerables, el manejo de campañas electorales mediante desinformación y perfilamiento de los votantes, videos con contenido extremista y violento. Centros de trolls, gurúes de campañas electorales, grupos criminales y hasta gobiernos pasaron a ser jugadores claves en la esfera pública de las redes sociales.

Esta realidad ha generado un creciente debate sobre las regulaciones aplicables a estos espacios, sin que exista hasta la fecha un consenso internacional. Están quienes defienden la naturaleza privada de estas plataformas y, por tanto, promueven una moderación autónoma a cargo de ellas mismas. El argumento tras esta posición es el siguiente: si las personas aceptan los términos y condiciones deben ajustarse a esas reglas, y si no les gusta pueden ir a otro lado o borrar su cuenta.

Otros expertos, sin embargo, postulan la necesidad de establecer normas estatales que establezcan límites sobre lo que pueden decidir las plataformas y cómo lo hacen. Entienden que las redes sociales se asemejan a foros públicos que impactan directamente en el discurso y el juego democrático. Además, sostienen que estas compañías tienen altos niveles de concentración con capacidad para imponer modelos de negocios con consecuencias sociales y económicas. Por todo ello, la autorregulación podría ser insuficiente y sería necesaria la intervención de los gobiernos.

A decir verdad, no han faltado intentos regulatorios por parte de gobiernos que a veces persiguen buenas intenciones y otras, cercenar críticas. Muchas de estas soluciones legales no siempre toman en cuenta el diseño de internet descentralizado y global. Además, en no pocos casos vienen a plantear restricciones a la libertad de expresión en lugar de proteger y promover este derecho.

En tanto, varias propuestas planteadas por organizaciones no gubernamentales y organismos de derechos humanos vienen reclamando a las compañías de internet mayor transparencia y compromiso con la aplicación de los estándares de protección de los derechos humanos en sus decisiones sobre el discurso que circula en sus redes. También postulan la necesidad de que las plataformas dominantes incorporen el contexto particular de cada país o región en las decisiones sobre contenidos.

Un experimento en proceso

Aunque todas las plataformas han enfrentado episodios complejos en relación a los impactos que generan sus prácticas y diversos aspectos de sus modelos de negocio, Facebook –la compañía de redes sociales más grande– ha protagonizado algunos de los escándalos de mayores proporciones. The Facebook Files es el más reciente y refiere a la filtración de documentos internos por parte de una exfuncionaria que darían cuenta de la existencia de un sistema diferenciado de moderación de contenidos para gobernantes y personalidades de alto perfil público que los exonera de las reglas que aplican al resto de los usuarios, así como de una reacción débil ante estudios que advierten de los efectos negativos en adolescentes de los algoritmos de Instagram.

Dos años atrás, cuando arreciaron las críticas sobre el impacto de las prácticas nocivas en sus plataformas, el experimento más osado lo puso en marcha el propio Mark Zuckerberg, director ejecutivo de Facebook. En noviembre de 2018, anunció la creación del Facebook Oversight Board (Consejo Asesor de Contenido, en español) con el fin declarado de crear un consejo de expertos independientes para revisar las decisiones que toma la compañía y definir si están alineadas con el interés de la comunidad.

A finales de 2020 el Consejo quedó constituido por 20 integrantes, luego de dos años de una serie de consultas globales y una inversión de más de 130 millones de dólares en un fondo fiduciario. Lo integran expertos y expertas internacionales en derechos humanos, tecnología y libertad de expresión. Distintos actores del ecosistema de internet han valorado la idoneidad e independencia de sus integrantes, así como el objetivo de ayudar a resolver parte de los problemas derivados de la regulación de contenidos en línea.

No obstante, las lecturas que se han hecho frente a la legitimidad de este intento global de resolución de casos son variadas. Algunos analistas ven en este Consejo un ejemplo más en el proceso de privatización de la justicia: el intento de una de las empresas más poderosas del mundo de crear su propio tribunal privado para, de cierta forma, asumir responsabilidades y autolegitimar sus propias decisiones.

Otras opiniones abren una carta de crédito a esta experiencia y la ubican en la tradición de los Consejos de Ética o Colegios de Medios y Periodistas que fueron de los primeros mecanismos de autorregulación sobre contenidos de prensa, reconocidos y alentados por el derecho internacional.

Más allá de interpretaciones, resulta interesante que este Consejo, al dotarse de un estatuto constitutivo, haya adoptado una guía aprobada por el Consejo de Derechos Humanos de Naciones Unidas, denominada Principios Rectores sobre Empresas y los Derechos Humanos. Estos principios buscan que las empresas adopten estándares de derechos humanos en sus operaciones y sus políticas de actuación, incluyendo reparar los daños que puedan producir con su actividad.

Según esta guía, para asegurar la efectividad de los mecanismos de reparación no judiciales, estos deben ser legítimos, accesibles, predecibles, equitativos, transparentes, compatibles con los derechos humanos y una fuente de aprendizaje continuo. Si la solución planteada por Facebook, que ahora toma forma como un Consejo Asesor, se ajusta a estas reglas internacionales, aún está en proceso de legitimación y verificación.

Primeras decisiones y alcance del Consejo

En lo que va de 2021, el Consejo emitió una veintena de decisiones sobre casos de lo más variados y ya ha ordenado a Facebook cambiar varias decisiones. En los últimos días y frente a la revelación que significaron los Facebook Files, el Consejo solicitó además una lista exhaustiva de informes a la empresa.

La colombiana y ex relatora para la Libertad de Expresión de la Comisión Interamericana de Derechos Humanos, Catalina Botero, es una de las cuatro personas en la dirección del Consejo. En un reciente encuentro afirmó que, en lo que hace a los temas de contenido –asunto en el cual el Consejo que integra tiene competencia–, sería grave que se confirmara la existencia de listas de usuarios que por su incidencia o perfil no deben cumplir con las mismas reglas que los otros 2.800 millones que participan en la plataforma.

Con anterioridad a este incidente, el Consejo ya se había expedido sobre casos que involucran mensajes que incitan al odio en Birmania, también sobre la suspensión de la cuenta del expresidente de Estados Unidos Donald Trump, y hasta sobre las publicaciones del gobierno brasileño que ponen en duda las medidas contra la covid-19. Todo tipo de discusiones de actualidad que giran en torno al balance entre diferentes derechos humanos ha ido pasando por el novel Consejo (ver recuadros).

De este primer conjunto de decisiones, en general, se ha ponderado positivamente la inclusión expresa y detallada de los estándares internacionales de derechos humanos. También se valoró que el Consejo en cada caso hizo recomendaciones a la empresa para mejorar la transparencia y las políticas de moderación de contenidos.

Este cuerpo también hace solicitudes de información a la empresa sobre los casos a estudio, que generan respuestas o evidencias de falta de transparencia en algunos criterios, todo lo cual permite abrir otra puerta para conocer el funcionamiento de la denominada “moderación de contenidos a nivel interno de la corporación”.

En un reciente evento organizado por el think tank Diálogo Interamericano, que contó con la participación de expertas, ex relatores de libertad de expresión e integrantes del Consejo, estos últimos afirmaron que no aspiran a sustituir ni a crear una estructura judicial supraestatal. Indicaron que buscan generar legitimidad para influir en las decisiones de la empresa, basado en el marco de origen que le ofrece la carta constitutiva del Consejo y los fundamentos de sus propias decisiones.

Entre las reservas a este mecanismo, se plantea la amplitud de temas y los costos que supone el funcionamiento del Consejo Asesor. Sólo gigantes como Facebook o Google pueden tener la espalda financiera para sostener un mecanismo de este tipo. Por otra parte, una multiplicidad de soluciones a asuntos parecidos tampoco ayudaría a generar estándares replicables.

El seguimiento del cumplimiento de estas recomendaciones y pedidos de informes será clave para evaluar la legitimidad y eficacia del mecanismo, así como el apego a los principios antes mencionados.

Finalmente, expertos y académicos advierten que el Consejo Asesor no debería monopolizar las discusiones sobre moderación de contenidos. Hay lugar para que gobiernos, empresas y organizaciones de la sociedad civil impulsen otro tipo de paneles y formas de evaluar las decisiones considerando el marco de derechos humanos y una participación de las múltiples partes interesadas.

América Latina y las decisiones del Consejo

Desde la región latinoamericana es relevante seguir de cerca e involucrarse en las discusiones globales acerca de la moderación de contenidos y regulación en internet. Las decisiones tienen alcance global y son especialmente relevantes para países donde las redes sociales tienen incidencia en el debate público. Así, por ejemplo, el nuevo mecanismo de Facebook ha decidido tres casos que involucran a países latinoamericanos: dos de Brasil y uno de Colombia (ver recuadro).

El Consejo también incluyó a dos expertos latinoamericanos en su primera integración. Además de Botero, ex relatora para la Libertad de Expresión de la OEA, se sumó Ronaldo Lemos, profesor de Derecho en la Universidad de Río de Janeiro.

Los miembros del Consejo consultados en el panel del Diálogo Interamericano indicaron que a la hora de abordar casos de la región reciben comentarios y hay consultas a expertas y expertos de los países involucrados, a los efectos de evaluar si la empresa tuvo en cuenta el contexto nacional y regional, la situación política, las tensiones sociales y las discusiones públicas.

Por otra parte, en los primeros casos decididos que refieren a la región, aún no se han tomado en cuenta los estándares del Sistema Interamericano de Derechos Humanos, pese al robusto marco jurídico que los órganos del sistema han desarrollado en las últimas dos décadas.

En los últimos años en los parlamentos latinoamericanos han aumentado las iniciativas que buscan regular los contenidos en redes sociales. Existen en trámite decenas de proyectos de ley al respecto con una fuerte impronta de intervención estatal, por lo que este asunto está en discusión y el funcionamiento del Consejo Asesor representa un debate más que oportuno.

.