Por qué en TikTok no se puede decir 'negro': la explicación detrás del algoritmo

Te ha pasado: subes un vídeo, escribes un comentario o simplemente participas en una conversación y, de repente, tu contenido es eliminado o su visibilidad se desploma. Si has usado la palabra "negro", es muy probable que te hayas topado con el complejo y a menudo frustrante sistema de moderación de TikTok. La pregunta es inevitable: ¿por qué una palabra que en español se usa para describir un color o, en muchos contextos, a una persona sin intención ofensiva, causa tantos problemas en la plataforma?

La respuesta no es simple y se encuentra en la intersección de la tecnología, el lenguaje y las diferencias culturales. No se trata de una prohibición explícita en las normas de la comunidad hispanohablante, sino del resultado de un sistema de moderación global que lucha por entender los matices del lenguaje humano. Entender cómo funciona este sistema es clave para navegar en la plataforma sin que tu voz sea silenciada por error.

El discurso de odio: la regla principal de TikTok

Para empezar por lo básico, TikTok, como la mayoría de las plataformas sociales, tiene una política muy estricta contra el discurso de odio. Sus Normas de la Comunidad prohíben de forma explícita cualquier contenido que ataque, amenace, incite a la violencia o deshumanice a individuos o grupos por atributos como su raza u origen étnico. El objetivo es crear un entorno seguro y positivo para una comunidad global masiva y diversa.

Para aplicar estas normas a una escala monumental (se suben millones de vídeos al día), TikTok no depende únicamente de moderadores humanos. La primera línea de defensa es un sistema automatizado, un algoritmo, diseñado para escanear y filtrar contenido potencialmente infractor a una velocidad sobrehumana.

El algoritmo de moderación: un robot con puntos ciegos

La moderación de contenido en TikTok es un proceso que combina inteligencia artificial con supervisión humana. Así funciona a grandes rasgos:

1. Análisis Automatizado: Cuando se sube un vídeo, el algoritmo lo analiza en busca de "señales" que puedan indicar una infracción. Esto incluye el reconocimiento de imágenes, el audio y, de forma crucial, las palabras clave en descripciones, subtítulos y texto superpuesto.
2. Detección de Palabras Clave: El sistema tiene una base de datos masiva de palabras y frases consideradas problemáticas. Si detecta una de estas palabras, puede tomar una acción automática, como reducir la visibilidad del vídeo (lo que se conoce como shadowban) o eliminarlo directamente.
3. Revisión Humana: En casos más ambiguos, el contenido se envía a un moderador humano para que evalúe el contexto y tome una decisión final.

El problema principal radica en la dependencia de este sistema automatizado. Los algoritmos, por muy avanzados que sean, son herramientas literales. Carecen de la capacidad humana para interpretar el contexto, la intención o el sarcasmo, lo que provoca numerosos "falsos positivos".

El choque cultural: por qué "negro" no es lo mismo que la "N-Word"

Aquí se encuentra el núcleo del problema para los usuarios hispanohablantes. La palabra "negro" en español es, fundamentalmente, el nombre de un color. También se usa como un adjetivo descriptivo para personas, y aunque su uso puede ser peyorativo dependiendo del tono y el contexto, en la gran mayoría de los casos es una palabra neutral.

Sin embargo, el desarrollo de los algoritmos de moderación de contenido ha estado históricamente centrado en el mercado angloparlante, específicamente en Estados Unidos. En inglés, la palabra "nigger" (a menudo llamada "the N-word") es uno de los insultos raciales más ofensivos y cargados de la historia. Derivada del español "negro", su uso está inextricablemente ligado a la esclavitud, la violencia y la opresión sistémica.

El algoritmo de TikTok, entrenado predominantemente con datos en inglés, tiene dificultades para diferenciar entre:

• "Negro" (español): Una palabra polivalente cuyo significado depende del contexto.
• "N-word" (inglés): Un término casi universalmente considerado como discurso de odio.

Debido a su similitud fonética y etimológica, el sistema a menudo cataloga la palabra en español como un insulto, sin importar si el usuario está hablando del color de su camiseta, usando una expresión coloquial o describiendo a una persona de forma respetuosa.

Errores reconocidos: cuando el algoritmo falla

Esta falta de matiz cultural ha llevado a numerosos y documentados errores por parte de la plataforma, afectando desproporcionadamente a los creadores de la comunidad negra y afrodescendiente.

En 2020, durante el auge de las protestas de Black Lives Matter, muchos usuarios denunciaron que sus vídeos con los hashtags #BlackLivesMatter y #GeorgeFloyd aparecían con cero visualizaciones, un problema que TikTok atribuyó a un "fallo técnico" pero que muchos creadores sintieron como un acto de censura.

Un caso muy conocido fue el del creador Ziggi Tyler, quien demostró en un vídeo viral cómo el Creator Marketplace de la plataforma marcaba como inapropiadas frases como "apoyar a los negros" o "voces negras", mientras que aceptaba "apoyo a la supremacía blanca". TikTok se disculpó públicamente, explicando que el error se debía a que su sistema había detectado la palabra "die" (morir en inglés) dentro de la palabra "audience" (audiencia) y la había combinado con "Black", activando el filtro de discurso de odio.

Estos incidentes demuestran que, aunque el objetivo es noble (combatir el racismo), la ejecución torpe de los sistemas automatizados puede acabar silenciando precisamente las voces que más necesitan ser escuchadas.

¿Qué pueden hacer los creadores? Estrategias para navegar la moderación

Sabiendo que te enfrentas a un algoritmo imperfecto, existen algunas estrategias que muchos creadores utilizan para minimizar el riesgo de ser penalizados injustamente al hablar de temas raciales o simplemente al usar palabras conflictivas.

1. Usa el "Algospeak" o lenguaje de algoritmo

El "Algospeak" es un vocabulario creativo que los usuarios han desarrollado para eludir los filtros automáticos. Consiste en sustituir palabras clave por otras fonéticamente similares o eufemismos.

• En lugar de "negro", algunos usuarios optan por escribir "n-word" (irónicamente, usando el eufemismo inglés), "negr@" o incluso usan emojis de colores.
• Para otros temas sensibles, es común ver "unalive" en lugar de "muerto" o "spicy" para contenido sugerente.

2. Cuida los subtítulos y el texto en pantalla

El algoritmo de TikTok pone especial atención al texto escrito. A menudo, el sistema es más propenso a penalizar una palabra si aparece escrita en los subtítulos automáticos o en el texto que añades al vídeo que si solo se menciona verbalmente. Revisa tus subtítulos generados automáticamente y edítalos si contienen palabras que puedan ser malinterpretadas por el sistema.

3. El contexto es tu amigo (para los humanos)

Si tu contenido es eliminado y crees que es un error, apela la decisión. En el proceso de apelación, es más probable que un moderador humano revise tu vídeo. Un humano puede entender el contexto, el idioma y la intención de una manera que un algoritmo no puede. Explica de forma clara y concisa por qué tu contenido no infringe las normas.

4. Construye una comunidad informada

Habla abiertamente con tu audiencia sobre los desafíos de la moderación. Al explicar por qué utilizas "algospeak" o por qué evitas ciertas palabras, educas a tu comunidad y creas un entendimiento compartido. Esto puede reducir los reportes malintencionados que también pueden activar al algoritmo.

En definitiva, la razón por la que decir "negro" en TikTok es problemático no se debe a una regla explícita contra la palabra en español, sino a las limitaciones de un sistema de moderación global que aún está aprendiendo los complejos matices culturales y lingüísticos. Es un recordatorio de que la tecnología, sin una profunda comprensión humana, puede crear barreras en lugar de derribarlas. Para los creadores, la clave está en entender estas limitaciones y adaptar su comunicación para que sus mensajes importantes puedan llegar a su audiencia.