Algoritmo de TikTok deja a usuarios expuestos a porno y violencia extrema

0

CN COLIMANOTICIAS

México.- TikTok está vetando a usuarios que usan videos pornográficos y violentos como foto de perfil para eludir los controles de moderación.  La BBC informó a la aplicación sobre la práctica, llamada en inglés «Don’t search this up» («No busques esto»), que ha acumulado más de 50 millones de interacciones.

Los usuarios de la plataforma de videos cortos dicen que se trata de alentar a los bromistas a publicar el material más ofensivo o repugnante que puedan encontrar en línea.

La BBC ha encontrado videos de pornografía hardcore compartidos como imágenes de perfil de algunos usuarios, así como un video del grupo Estado Islámico que muestra el asesinato del piloto jordano Muadh al-Kasasbeh.

TikTok también ha prohibido los hashtags utilizados para promocionar los perfiles ofensivos y está eliminando los videos.

Tom, un adolescente de Alemania quien pidió que no se revelara su apellido, fue quien alertó primero a la BBC sobre la tendencia. «He visto pornografía gore hardcore,y estoy realmente preocupado por esto, pues muchos niños usan TikTok, Me resulta especialmente preocupante que haya publicaciones con millones de visitas que señalan específicamente estos perfiles, pero TikTok tarda años en actuar».

El joven alemán explicó que había denunciado a varios usuarios por publicar videos ofensivos como fotos de perfil.

Los videos sobre esta tendencia se han estado publicando en inglés y español.

Los nombres de usuario de las cuentas infractoras a menudo son una mezcla aleatoria de letras y palabras, y no tienen videos originales subidos por ellos, solo los de la imagen de perfil.

Algunas de las cuentas tienen decenas de miles de seguidores que esperan varios segundos a que la foto de perfil cambie a algo impactante.

La BBC intentó hablar con un usuario que publicó un video explícito en su perfil, pero no recibió respuesta.

Perfiles de TikTok con contenido ofensivo

Los usuarios regulares pueden quedar expuestos a encontrar estas cuentas tan solo mirando videos en TikTok. En un momento, esos videos muestran el nombre del usuario que la gente debería «buscar» para encontrar un video impactante.

Algunos de estos videos están siendo recomendados por el algoritmo de TikTok en la página principal llamada «Para ti» en la aplicación. Los expertos dicen que la tendencia destaca una vulnerabilidad desconocida en TikTok.

«TikTok tiene una reputación bastante positiva cuando se trata de confianza y seguridad, así que no los culpo porno tener políticas de moderación y herramientas para un fenómeno tóxico del que no estaban al tanto. Claramente, TikTok está trabajando para detener esta tendencia, pero para los usuarios, como siempre, la vigilancia es clave. Los fanáticos de TikTok deben ser conscientes de los riesgos en la plataforma y los padres deben hacer un esfuerzo para saber qué nuevas aplicaciones están usando sus hijos, junto con el contenido y la dinámica a la que están expuestos», dijo Roi Carthy, de la compañía de moderación de redes sociales L1ght.

TikTok es una de las aplicaciones de más rápido crecimiento en el mundo, con un estimado de 700 millones de usuarios activos mensuales en todo el mundo.

Un portavoz de la compañía dijo: «Hemos vetado permanentemente las cuentas que intentaron eludir nuestras reglas a través de su foto de perfil y hemos desactivado los hashtags, incluido #dontsearchthisup. Nuestro equipo de seguridad continúa con su análisis y seguiremos tomando todas las medidas necesarias para mantener a nuestra comunidad segura».

La plataforma y sus equipos de moderación también están analizando y eliminando palabras similares que se utilizan para eludir el veto.

Por lo pronto, para estar protegido se recomienda deshabilitar la etiqueta o hashtag #dontsearchthisup o #Nobusquesesto para que el término no se puede encontrar en las búsquedas.

Con información de El Universal

Compartir