La nueva etapa de "fake news" podría venir por TikTok

En Alemania, las cuentas de TikTok se hicieron pasar por figuras políticas prominentes durante las últimas elecciones nacionales del país. En Colombia, las publicaciones engañosas de TikTok atribuyeron falsamente una cita de un candidato a un villano de dibujos animados y permitieron que una mujer se hiciera pasar por la hija de otro candidato. En Filipinas, los videos de TikTok amplificaron los mitos endulzados sobre el ex dictador del país y ayudaron a su hijo a prevalecer en la carrera presidencial del país.

Ahora, problemas similares han llegado a los Estados Unidos.

Antes de las elecciones de mitad de período de este otoño, TikTok se perfila como una incubadora primaria de información infundada y engañosa, en muchos sentidos tan problemática como Facebook y Twitter, dicen los investigadores que rastrean las falsedades en línea. Las mismas cualidades que permiten a TikTok alimentar las modas virales de baile (el enorme alcance de la plataforma, la corta duración de sus videos, su poderoso pero poco entendido algoritmo de recomendación) también pueden hacer que las afirmaciones inexactas sean difíciles de contener.

Las teorías de conspiración sin fundamento sobre cierto fraude electoral en noviembre son ampliamente vistas en TikTok, que a nivel mundial tiene más de mil millones de usuarios activos cada mes. Los usuarios no pueden buscar el hashtag #StopTheSteal, pero #StopTheSteallll había acumulado casi un millón de visitas hasta que TikTok desactivó el hashtag después de ser contactado por The New York Times. Algunos videos instaron a los espectadores a votar en noviembre mientras citaban rumores desacreditados planteados durante las audiencias del Congreso sobre el ataque al Capitolio del 6 de enero de 2021. Las publicaciones de TikTok han obtenido miles de visitas al afirmar, sin evidencia, que las predicciones de un aumento en las infecciones por Covid-19 este otoño son un intento de desalentar la votación en persona.

La difusión de información errónea ha dejado a TikTok luchando con muchos de los mismos problemas de libertad de expresión y moderación que Facebook y Twitter han enfrentado, y han abordado con resultados mixtos, durante varios años.

Pero el desafío puede ser aún más difícil de abordar para TikTok. El video y el audio, la mayor parte de lo que se comparte en la aplicación, pueden ser mucho más difíciles de moderar que el texto, especialmente cuando se publican con un tono irónico. TikTok, que es propiedad del gigante tecnológico chino ByteDance, también enfrenta muchas dudas en Washington sobre si sus decisiones comerciales sobre datos y moderación están influenciadas por sus raíces en Beijing.

"Cuando tienes videos extremadamente cortos con contenido de texto extremadamente limitado, simplemente no tienes el espacio y el tiempo para discusiones matizadas sobre política", dijo Kaylee Fagan, investigadora del Proyecto de Tecnología y Cambio Social en el Centro Shorenstein de la Escuela Kennedy de Harvard.

TikTok apenas se había introducido en los Estados Unidos en el momento de las elecciones de mitad de período de 2018 y todavía se consideraba en gran medida una aplicación de entretenimiento para los más jóvenes durante las elecciones presidenciales de 2020.

Hoy en día, su base de usuarios estadounidense pasa un promedio de 82 minutos al día en la plataforma, tres veces más que en Snapchat o Twitter y el doble de tiempo que en Instagram o Facebook, según un informe reciente de la firma de análisis de aplicaciones Sensor Tower. TikTok se está volviendo cada vez más importante como destino para el contenido político, a menudo producido por personas influyentes.

La compañía insiste en que está comprometida con la lucha contra la información falsa. En la segunda mitad de 2020, eliminó casi 350,000 videos que incluían desinformación electoral, desinformación y medios manipulados, según un informe que publicó el año pasado. Los filtros de la plataforma evitaron que otros 441,000 videos con afirmaciones sin fundamento fueran recomendados a los usuarios, según el informe.

El servicio bloqueó el llamado contenido deepfake y coordinó campañas de desinformación antes de las elecciones de 2020, facilitó a los usuarios informar falsedades electorales y se asoció con 13 organizaciones de verificación de hechos, incluida PolitiFact. Investigadores como Fagan dijeron que TikTok había trabajado para cerrar términos de búsqueda problemáticos, aunque sus filtros siguen siendo fáciles de evadir con ortografía creativa.

"Asumimos nuestra responsabilidad de proteger la integridad de nuestra plataforma y las elecciones con la mayor seriedad", dijo TikTok en un comunicado. "Continuamos invirtiendo en nuestros equipos de políticas, seguridad y protección para contrarrestar la desinformación electoral".

Pero el preocupante historial del servicio durante las elecciones extranjeras, incluso en Francia y Australia este año, no es un buen augurio para Estados Unidos, dijeron los expertos.

TikTok ha estado "fallando su primera prueba real" en África en las últimas semanas, escribió en un informe Odanga Madung, investigador de la Fundación Mozilla sin fines de lucro. La aplicación tuvo problemas para reducir la desinformación antes de las elecciones presidenciales de la semana pasada en Kenia.

Madung citó una publicación en TikTok que incluía una imagen alterada de un candidato sosteniendo un cuchillo en el cuello y usando una camisa con rayas de sangre, con una leyenda que lo describía como un asesino. La publicación obtuvo más de medio millón de visitas antes de que fuera eliminada.

"En lugar de aprender de los errores de plataformas más establecidas como Facebook y Twitter", escribió Madung, "TikTok está siguiendo sus pasos".

TikTok también ha luchado por contener la desinformación no política en los Estados Unidos. Los mitos relacionados con la salud sobre las vacunas y máscaras covid-19 son desenfrenados, al igual que los rumores y falsedades sobre las dietas, las afecciones pediátricas y la atención de afirmación de género para las personas transgénero. Un video que afirmaba falsamente que el tiroteo masivo en la Escuela Primaria Robb en Uvalde, Texas, en mayo había sido organizado atrajo más de 74,000 visitas antes de que TikTok lo eliminara.

Las publicaciones en TikTok sobre la guerra de Rusia en Ucrania también han sido problemáticas. Incluso los periodistas e investigadores experimentados que analizan las publicaciones sobre el servicio luchan por separar la verdad del rumor o la fabricación, según un informe publicado en marzo por el Centro Shorenstein.

El diseño de TikTok lo convierte en un caldo de cultivo para la desinformación, encontraron los investigadores. Escribieron que los videos podrían ser fácilmente manipulados y republicados en la plataforma y exhibidos junto con contenido robado u original. Los seudónimos son comunes; los videos de parodia y comedia se malinterpretan fácilmente como hechos; la popularidad afecta la visibilidad de los comentarios; y los datos sobre el tiempo de publicación y otros detalles no se muestran claramente en la aplicación móvil.

(Los investigadores del Centro Shorenstein señalaron, sin embargo, que TikTok es menos vulnerable a la llamada brigada, en la que los grupos se coordinan para hacer que una publicación se difunda ampliamente, que plataformas como Twitter o Facebook).

Durante el primer trimestre de 2022, más del 60 por ciento de los videos con información errónea dañina fueron vistos por los usuarios antes de ser eliminados, dijo TikTok. El año pasado, un grupo de científicos del comportamiento que habían trabajado con TikTok dijeron que un esfuerzo por adjuntar advertencias a las publicaciones con contenido sin fundamento había reducido el intercambio en un 24 por ciento, pero tenía vistas limitadas en solo un 5 por ciento.

Los investigadores dijeron que la desinformación continuaría prosperando en TikTok mientras la plataforma se negara a divulgar datos sobre los orígenes de sus videos o compartir información sobre sus algoritmos. El mes pasado, TikTok dijo que ofrecería cierto acceso a una versión de su interfaz de programación de aplicaciones, o A.P.I., este año, pero no dijo si lo haría antes de las elecciones intermedias.

Filippo Menczer, profesor de informática y ciencias de la computación y director del Observatorio de Redes Sociales de la Universidad de Indiana, dijo que había propuesto colaboraciones de investigación a TikTok y que le habían dicho: "Absolutamente no".

"Al menos con Facebook y Twitter, hay cierto nivel de transparencia, pero, en el caso de TikTok, no tenemos ni idea", dijo. "Sin recursos, sin poder acceder a los datos, no sabemos quién es suspendido, qué contenido se elimina, si actúan sobre los informes o cuáles son los criterios. Es completamente opaco y no podemos evaluar nada de forma independiente".

Los legisladores estadounidenses también están pidiendo más información sobre las operaciones de TikTok, en medio de renovadas preocupaciones de que los lazos de la compañía con China podrían convertirla en una amenaza para la seguridad nacional. La compañía ha dicho que planea mantener los datos sobre sus usuarios estadounidenses separados de su matriz china. También ha dicho que sus reglas han cambiado desde que fue acusado de censurar publicaciones consideradas antitéticas a los objetivos políticos de Beijing.

La compañía se negó a decir cuántos moderadores humanos tenía trabajando junto con sus filtros automatizados. (Un ejecutivo de TikTok dijo a los políticos británicos en 2020 que la compañía tenía 10,000 moderadores en todo el mundo). Pero los ex moderadores se han quejado de las difíciles condiciones de trabajo, diciendo que estaban dispersas y a veces se les exigía que revisaran videos que usaban idiomas y referencias desconocidos, un eco de las acusaciones hechas por los moderadores en plataformas como Facebook.

En las listas de trabajo actuales para moderadores, TikTok pide voluntad de "revisar una gran cantidad de videos cortos" y "en sucesión continua durante cada turno".

En una demanda presentada en marzo, Reece Young de Nashville y Ashley Velez de Las Vegas dijeron que habían "sufrido un inmenso estrés y daño psicológico" mientras trabajaban para TikTok el año pasado. Los ex moderadores describieron turnos de 12 horas evaluando miles de videos, incluidas teorías de conspiración, creencias marginales, desinformación política e imágenes manipuladas de funcionarios electos. Por lo general, dijeron, tenían menos de 25 segundos para evaluar cada publicación y, a menudo, tenían que ver varios videos simultáneamente para cumplir con las cuotas de TikTok.

En una presentación, la compañía presionó para que el caso fuera desestimado en parte porque los demandantes habían sido contratistas contratados por los servicios de personal, y no directamente por TikTok. La compañía también señaló los beneficios de la supervisión humana cuando se combina con sus algoritmos de revisión, diciendo: "La utilidad social significativa para la moderación de contenido supera en gran medida cualquier peligro para los moderadores".

La temporada electoral puede ser especialmente difícil para los moderadores, porque las publicaciones políticas de TikTok tienden a provenir de una colección difusa de usuarios que abordan temas amplios, en lugar de políticos o grupos específicos, dijo Graham Brookie, director senior del Laboratorio de Investigación Forense Digital del Atlantic Council.

"La conclusión es que todas las plataformas pueden hacer más y necesitan hacer más por el conjunto compartido de hechos de los que depende la socialdemocracia", dijo Brookie. "TikTok, en particular, sobresale debido a su tamaño, su crecimiento muy, muy rápido y la cantidad de problemas pendientes sobre cómo toma decisiones".