¿Por qué aceptamos de las plataformas limitaciones que no aceptaríamos de nuestros gobiernos?
En setiembre de 2024, cuando las dos facciones del cártel de Sinaloa se enfrentaban en Culiacán, Delilah Barajas dejó de grabar su contenido habitual en TikTok sobre películas y grabó un video donde hablaba de los convoyes de “desvividos” que quedaban en las calles y de cuerpos con claros signos de “tortuga”. Esas formas de expresión no son usuales en el español de México, pero Delilah las usó para evitar que TikTok le eliminara el video.
A este fenómeno se le conoce en inglés como algospeak. Lenguaje de algoritmo. “Desvivir” se usa para reemplazar a matar y “desvivirse” para suicidarse. Las pistolas son “pew pew”, como en los juegos de niños. En los subtítulos y comentarios de los videos se escribe “s3xo” o “suic1dio”, reemplazando un número donde va una letra, para que las personas entiendan la palabra pero el algoritmo no lo reconozca.
El problema que explica este fenómeno es que las plataformas de videos revisan millones de publicaciones al día con algoritmos entrenados para buscar palabras “problemáticas”. Y si bien son muy buenos para detectarlas, parece que no lo son tanto a la hora de entender las intenciones detrás de su uso. Así, quien promueve el suicidio y quien comparte el número de una línea de prevención usan la misma palabra y reciben el mismo trato.
Para empeorar las cosas, las empresas suelen ser muy opacas al respecto, con explicaciones poco claras y declaraciones contradictorias. YouTube ha asegurado que no tiene una lista de palabras prohibidas, y TikTok señala que palabras como “balacera” y “tortura” no están vetadas. La experiencia de muchos usuarios contradice esas afirmaciones.
Independientemente de la gestión de las plataformas, yo quisiera detenerme en el fondo del asunto. Si mañana el Congreso aprobara una lista de “palabras prohibidas” al expresarnos, ¿se imaginarían la indignación que se generaría? Y, entonces, ¿por qué no sucede lo mismo con estas plataformas cuando una educadora sexual tiene que escribir “s3xo” en un video sobre consentimiento o un psicólogo busca eufemismos a la hora de hablar sobre cómo lidiar con la muerte de un familiar?
¿No nos hace bulla que prefiramos cambiar la forma como hablamos para no molestar al algoritmo antes que exigirle a una empresa reglas públicas y razonables, capaces de distinguir la apología de un delito de la información sobre él, o la incitación al suicidio de su prevención?
No es necesario que comparta un ejemplo hipotético de los riesgos que esto tiene para la democracia. Y no es necesario hacerlo porque tenemos un caso real que acaba de suceder en Brasil.
Durante la campaña de segunda vuelta, varios influencers que apoyaban a Lula se quejaron de que bastaba mencionar su nombre para que sus videos tuvieran menos vistas e interacciones. Sonaba a paranoia de campaña, pero luego aparecieron cosas difíciles de explicar. Un video que Lula subió a Instagram el 7 de octubre mostraba más “me gusta” que reproducciones. Dos días después, su cuenta oficial pasó casi 24 horas sin poder pagar para promocionar sus publicaciones, y su campaña calcula que 1,3 millones de personas dejaron de ver sus anuncios.
El 15 de octubre, el juez Marco Aurélio Bellizze, del Tribunal Superior Electoral, ordenó a Meta tratar igual a los dos candidatos bajo una multa de 500 mil reales diarios. Al día siguiente, el diario Folha de Sao Paulo publicó mensajes internos de la empresa. En uno, un empleado admitía que la cuenta de Lula estaba “limitada” frente a la de Flávio Bolsonaro. En otros, sus colegas reconocían que Instagram recomendaba a Flávio en el buscador, algo que la justicia electoral prohíbe, mientras a Lula no se le encontraba ni escribiendo su nombre exacto.
Meta niega cualquier sesgo y atribuye todo a fallas técnicas. Difícil de creer, ¿verdad?
Defender la libertad de expresión pasa también por discutir las condiciones que permiten que nuestras opiniones lleguen a los demás, no se agota en impedir que el Estado controle qué podemos decir. Hoy, buena parte de esa discusión pasa por las plataformas digitales, que tienen una enorme capacidad para decidir qué contenidos circulan y cuáles quedan relegados. Es razonable que exijamos discutir qué reglas existen, qué reglas deben existir, cómo garantizar transparencia en su implementación y qué mecanismos tenemos para cuestionar decisiones arbitrarias. La libertad de expresión también puede perderse sin que nadie apruebe una ley que la restrinja.
¡No desenchufes la licuadora! Suscríbete y ayúdanos a seguir haciendo Jugo.pe
