El CEO de Telegram dijo que las aplicaciones de redes sociales son «blancos fáciles para las críticas».
- El arresto del fundador y director ejecutivo de Telegram ha aumentado el escrutinio sobre las formas en que se modera actualmente el contenido en las plataformas de redes sociales.
- “Serán unos años difíciles por delante” para equilibrar garantías más fuertes con demandas de libertad de expresión, afirma un experto.
- Varios países están buscando formas de aumentar la transparencia y las protecciones relacionadas.
Poco después de que Hamás lanzara su ataque sorpresa contra Israel en octubre pasado, los canales utilizados por el grupo terrorista en Telegram se iluminaron con imágenes de las atrocidades que siguieron.
¿La respuesta? Una restricción de los canales que, según se informa, no restringían mucho.
Más de un año después, el cultivo constante por parte de Telegram de una reputación como bastión de la libertad de expresión, a veces en un grado extremo, se ha topado con un problema con el arresto de su fundador y CEO en París.
Pavel Durov se ha visto obligado a permanecer en Francia, donde se le investiga por presunta complicidad en actividades delictivas en su popular plataforma. «Me entrevistó la policía durante cuatro días», publicó en su canal. «Ningún innovador creará nuevas herramientas si sabe que puede ser considerado personalmente responsable del posible abuso de las mismas».
- La repentina intensificación del escrutinio legal plantea la pregunta: ¿cómo se moderan normalmente estos servicios? Es decir, ¿cómo se espera que se moderen?
Como en tantos otros aspectos de nuestra existencia cada vez más automatizada, los humanos siguen desempeñando un papel fundamental. Los cubículos de oficina llenos de contratistas que miran pantallas y toman decisiones rápidas sobre el contenido pueden haber dado paso a la inteligencia artificial y al aprendizaje automático, pero las personas, a menudo sobrecargadas de trabajo y subestimadas, siguen siendo una última línea de defensa esencial.
- Sin embargo, la paciencia con la forma actual de hacer las cosas está disminuyendo, según Sasha Havlicek, directora ejecutiva del Instituto para el Diálogo Estratégico. «Existen fallos sistemáticos y constantes en la moderación de contenido en todas las plataformas», afirmó.
- La moderación de contenidos ha sido calificada como el problema más difícil de Internet por una razón.
En muchos sentidos, es un mecanismo de respaldo descuidado para las empresas, diseñadas para atraer grandes audiencias y extraerles las reacciones más contundentes posibles. Se puede confiar en que los moderadores dicten sentencias inmediatas sobre cuestiones de derecho a la expresión que los filósofos han reflexionado durante siglos.
Por supuesto, algunas llamadas son más fáciles que otras.
Existe la «punta afilada» del problema, como la llama Havlicek, en forma de actividad claramente ilegal y dañina, que delimita una zona gris «horrible pero legal» que es más difícil de controlar. Aun así, en gran parte del mundo, sobre todo en las zonas de habla no inglesa, incluso la punta afilada suele quedar exenta, afirmó Havlicek.
«Ahora tenemos una situación interesante en la que los Cinco Ojos y la UE, menos Estados Unidos, avanzan esencialmente hacia la regulación», dijo, refiriéndose a los cinco países anglófonos (Australia, Canadá, Nueva Zelanda, el Reino Unido y los Estados Unidos) que coordinan la recopilación de inteligencia.
Sin embargo, existe el peligro de sobrealimentar a los absolutistas de la libertad de expresión, quienes ya equiparan los esfuerzos por regular las redes sociales con la censura represiva, advirtió Havlicek. «Así que los próximos años serán complicados».
- Un problema que parece fácilmente abordable es la escasez de moderadores de contenido capacitados.
Las revelaciones realizadas por las plataformas más grandes para cumplir con la Ley de Servicios Digitales de la UE (incipiente, pero potencialmente revolucionaria, según Havlicek) incluyen el número de moderadores que dominan los idiomas locales. El informe más reciente de X, por ejemplo, muestra 1535 moderadores que dominan el inglés, 29 el español, dos el italiano y uno el polaco.
“Incluso 20 personas por país se sienten un poco escaso”, dijo Havlicek. “Estos son los mercados mejor atendidos en cuanto a moderación de contenido, así que imagínense lo que eso significa en otros lugares”.
¿Un candidato ideal para la automatización?
El impacto psicológico que suelen tener los moderadores de contenido es ahora ampliamente comprendido. Incluso ha servido de base para una obra de Broadway: la protagonista de JOB es una mujer con problemas que «debe eliminar algunos de los contenidos más incomprensiblemente atroces de internet», según Playbill.
- “Las personas que realizan este trabajo ahora no reciben el salario ni las protecciones que necesitan”, dijo Havlicek.
Los moderadores han presentado demandas relacionadas en varios países. Se han publicado relatos esclarecedores en noticias durante al menos una década. La organización de Havlicek, que colabora con gobiernos y plataformas para trazar un camino más seguro y estable, cuenta con su propio equipo que realiza investigaciones relacionadas; existen normas estrictas que regulan el tiempo que cualquier persona puede dedicar a dicha investigación, y la asesoría es obligatoria.
Todo esto parece convertir la moderación de contenido en una candidata ideal para la automatización. Sin embargo, se necesitan profesionales cualificados para asuntos más complejos: por ejemplo, para juzgar el uso de la ironía o para analizar en profundidad una situación política concreta.
En términos más generales, según Havlicek, no se trata solo de eliminar o etiquetar contenido problemático. Se trata de sistemas de curación. Es decir, de cómo se puede distorsionar un entorno mediante algoritmos diseñados para mantener a los usuarios interesados y el flujo de ingresos publicitarios, lo que empuja a la gente a espacios más extremos.
Esto es especialmente preocupante a medida que aumenta la intriga geopolítica y las elecciones penden de un hilo. ¿Qué pasaría si para difundir desinformación bastara simplemente amplificar voces que ya existirían, como el Departamento de Justicia de EE. UU. alega que una empresa hizo en una acusación reciente?
A esta altura, las plataformas tienen mucha práctica en identificar “operaciones de información de actores estatales”, dijo Havlicek, aunque les cuesta seguir el ritmo de tácticas en constante evolución.
Havlicek afirmó que medidas como una Ley de Servicios Digitales de la UE plenamente desarrollada podrían ser de gran utilidad. Un aspecto clave de la legislación es permitir el acceso a los datos de las plataformas a investigadores independientes. Esto busca aumentar la transparencia y evaluar mejor los riesgos.
«Vamos a tener que demostrar que algo como el DSA puede funcionar», dijo.
Solo las plataformas en línea consideradas » muy grandes » tienen obligaciones bajo la ley. Los servicios deben ser responsables de la seguridad de los usuarios, «especialmente cuando cuentan con bases de usuarios lo suficientemente grandes como para tener un impacto en la sociedad en general»,afirmó Havlicek.
- Telegram aún no ha llegado a ese punto, pero se está acercando.
El servicio ha sido uno de los muchos que argumentan que cuando la moderación funciona bien, nadie se da cuenta. «Las afirmaciones de algunos medios de que Telegram es una especie de paraíso anárquico son totalmente falsas», escribió Durov en su canal. «Eliminamos millones de publicaciones y canales dañinos cada día».
- Una publicación reciente para un trabajo de moderador de contenido en Telegram busca postulantes con sólidas habilidades analíticas y “reacción rápida”.
Unos cinco meses antes de su arresto, Durov había reflexionado sobre que «todas las grandes aplicaciones de redes sociales son blanco fácil de críticas» por sus esfuerzos de moderación. Telegram, prometió, abordaría el problema con «eficiencia, innovación y respeto a la privacidad y la libertad de expresión».
- Tras el arresto, escribió que “establecer el equilibrio adecuado entre privacidad y seguridad no es fácil”, aunque su empresa se mantendría fiel a sus principios.
- Al día siguiente, acompañado de un emoji de celebración, anunció que Telegram había alcanzado los 10 millones de suscriptores de pago.