Participantes del Foro Europeo de Seguridad de TikTok 2025 interactúan con las herramientas del Centro de Transparencia y Responsabilidad de Dublín.
Magia parece, matemáticas son: TikTok aúna IA y factor humano para una seguridad de nueva generación
La tecnológica demuestra en el Foro Europeo de Seguridad 2025 cómo los avances en IA, centrados en automatización y LLM, transforman las capas de su moderación de contenido con "mayor velocidad y escala, y más coherencia".
TikTok ha eliminado en la primera mitad de 2025 más de 6,5 millones de vídeos por infringir sus normas contra el odio y el extremismo violento; el 99%, antes de ser reportado a la plataforma.
Más información: Premios TikTok 2025: España elige a los mejores creadores de contenido y figuras públicas favoritas de la plataforma
Que la inteligencia artificial ha cambiado el modo en que trabajamos, aprendemos, nos relacionamos, disfrutamos del ocio e, incluso nos relajamos, es algo evidente que ha convencido hasta a los más reticentes a implementar esta tecnología tan disruptiva.
Sin embargo, si echamos la vista atrás, no hace tanto de la última ola de la IA, esa que pisó el acelerador tras la irrupción de ChatGPT en el otoño de 2022 para llevar la transformación digital al siguiente nivel.
Algo similar ha pasado con TIkTok. De ser una red social a la que todos sucumbimos durante la pandemia de la covid -unos con más acierto que otros- para divertirnos, no sentirnos solos o simplemente hacer más soportable el confinamiento, la plataforma ha llevado sus disruptivos códigos de lenguaje mucho más allá de las metas iniciales.
El lenguaje de TikTok ha fagocitado de alguna manera el del resto de redes sociales y ha conectado con éxito esta sociedad post-pandémica; con las nuevas generaciones nativas digitales, por supuesto, pero también con otros estratos de edad que han acabado sucumbiendo al poder del vídeo de la compañía.
Igual sucede en el mundo corporativo: pymes, autónomos y grandes corporaciones se suman al impacto y capacidad de conexión de TikTok, pues la herramienta les brinda una competitividad imperdible en esta economía cada día más digital y tecnológica.
Las cifras avalan la era hegemónica de la red social: más de mil millones de personas a nivel mundial -más de 200 millones de personas en Europa- la utilizan para crear, descubrir y conectarse con el contenido y los creadores que eligen.
Más de 100 millones de piezas de contenido se publican todos los días en 70 idiomas, desde videos hasta fotos, comentarios y transmisiones en vivo.
Pero ¿dónde en qué punto se cruzan los caminos de los rápidos avances de la IA y la red social? El Foro Europeo de Seguridad de TikTok 2025, celebrado esta semana en Dublín, ha dado las claves y, una sobresale por encima sobre todas las demás: la seguridad.
"La base de todo es la seguridad. Es realmente no negociable para nosotros. Esa es la razón por la que estamos invirtiendo 22 mil millones de dólares al año en seguridad. Y es una prioridad, desde para nuestro CEO, hasta para las decenas de miles de profesionales que se dedican a esta área en TikTok".
Toda una manifestación de intenciones la proferida en el evento de este 18 de noviembre por Valiant Richey, Valiant Richey, director global de Divulgación y Alianzas en TikTok.
Y ese objetivo prioritario se consigue "ya sea a través de la moderación de contenido, proporcionando una mayor transparencia de la IA, identificando redes comprometidas con la difusión del odio o fomentando un bienestar digital positivo. Por lo tanto, continuamos fortaleciendo la confianza y la seguridad para permitir la creatividad, el descubrimiento y el aprendizaje en TikTok".
Valiant Richey, director global de Divulgación y Alianzas en TikTok.
La cita en la capital de Irlanda ha evidenciado de nuevo que no sólo el verdadero poder de la tecnología emerge cuando se combina con el factor humano, sino que, gracias al potencial de la inteligencia artificial, ahora la sociedad puede protegerse antes y hacer un uso más ético, responsable, eficiente y satisfactorio gracias a ella.
"A medida que las nuevas tecnologías hacen que sea más rápido y fácil que nunca crear contenido, también debemos innovar y acelerar nuestros esfuerzos de moderación", ha defendido en el foro Brie Pegum, directora global de Riesgo Regulatorio y Gestión de Programas de Confianza y Seguridad en TikTok.
"Las tecnologías de IA han existido durante bastante tiempo y continúan desempeñando un papel crucial en cómo moderamos. Pero ahora se refuerzan por otra tecnología que ha avanzado masivamente: los LLM"
"Creemos que la IA es la clave, porque hace posible proteger a las personas con mayor velocidad, escala y coherencia, al mismo tiempo que protegemos mejor a nuestros equipos humanos", ha añadido Pegum.
Y ha destacado algunos datos reveladores del esfuerzo de TikTok a nivel mundial en la primera mitad de este año: "El 99% del contenido infractor que eliminamos fue retirado antes de que alguien nos lo informara. Esto es lo que llamamos eliminación proactiva. Además, más del 86% de esos videos fueron eliminados a través de la automatización y esto se hizo a una escala tremenda".
"En total, eliminamos más de 500 millones de vídeos en la primera mitad de este año y eso aún representó menos del 1% del contenido publicado en la plataforma".
Aquí radica el verdadero valor de los anuncios realizados en la segunda edición del foro en Dublín en este momento tan crítico del sector tecnológico.
"Las tecnologías de IA han existido durante bastante tiempo y continúan desempeñando un papel crucial en cómo moderamos. Pero ahora están siendo reforzadas por otra tecnología que ha avanzado masivamente en los últimos años, los modelos de lenguaje grande (LLM)". "Estas habilidades de LLM están transformando la forma en que mantenemos segura a nuestra comunidad", ha añadido Pegum.
Por una parte, la plataforma ha presentado nuevas herramientas para detectar, etiquetar y comprender el contenido generado por inteligencia artificial, que supondrán el paso al siguiente nivel para los usuarios.
Detectar, etiquetar y comprender el AIGC
Además, se ha puesto en marcha un fondo educativo de dos millones de dólares para que los expertos creen contenido sobre la IA responsable, según han indicado fuentes de la plataforma.
Al respecto, Jade Nester, directora de Seguridad, Privacidad y Política Pública de Seguridad en Europa, precisó durante el evento de esta semana: "Vamos a empezar a probar un nuevo control de contenido generado por IA (AIGC) en nuestra función de 'gestionar temas' (manage topics). Esto ayudará a las personas a elegir cuánto AIGC quieren ver en su feed".
"Añadimos una marca de agua tecnológica robusta que solo nosotros podemos leer, haciendo más difícil que otras personas la eliminen"
Nester también ha incidido en la aportación de las nuevas marcas de agua invisibles. "Añadimos una marca de agua tecnológica robusta que solo nosotros podemos leer, haciendo más difícil que otras personas la eliminen. Y podemos usar esta marca de agua para etiquetar contenido de manera que aporte más confianza".
Por otro lado, durante el Foro Europeo de Seguridad, TikTok ha avanzado más información sobre cómo defiende a la plataforma contra el odio y el extremismo violento, uno de los peligros de nuestro tiempo.
"Hoy me entusiasma anunciar una nueva asociación con Violence Protection Prevention Network. Juntos, estamos creando recursos educativos dentro de la aplicación para personas en Alemania que buscan términos vinculados al extremismo violento", ha explicado Zachary Hecht, Jefe de Desarrollo de Políticas de Confianza y Seguridad en TikTok.
"A principios de este año, como ya han escuchado, nos convertimos en miembros del Foro Global de Internet para Contrarrestar el Terrorismo (Global Internet Forum to Counter Terrorism o GIFCT)".
Zachary Hecht, Jefe de Desarrollo de Políticas de Confianza y Seguridad en TikTok, este 18 de noviembre en el foro de Dublín.
Especialmente didáctica ha sido la intervención en la mesa redonda Fomentar el respeto y la empatía online de Marlene Wöckinger, historiadora que trabaja en el Departamento de Educación del Memorial de Mauthausen y forma parte de la cuenta de TikTok @mauthausenmemorial, todo un ejemplo del potencial de la plataforma en la actualidad.
Wöckinger reconoce que no llegaron a la red social de forma accidental y que afrontaron "una larga discusión antes de comenzar un formato de video corto".
"Fue hace casi exactamente cuatro años cuando creamos nuestra cuenta y subimos nuestro primer video. Se debió a una iniciativa llamada The Commemoration Initiative, donde educadores del Holocausto de Alemania y Austria fueron invitados a explorar la plataforma TikTok y ver qué se podía hacer en esta plataforma y qué contenido ya existía", ha precisado la historiadora ante un público atento a tu testimonio.
Defiende que "nosotros, como museo, no estamos usando TikTok para que más gente nos visite. De hecho, ya alcanzamos el límite de visitas guiadas que podemos hacer en primavera".
"Decidimos entrar en TikTok porque queríamos llegar a nuestra audiencia principal online y, de alguna manera, sin filtrar. Por lo general, lo hacemos a través del espacio del aula"
"Decidimos entrar en TikTok porque queríamos llegar a nuestra audiencia principal online también y de alguna manera sin filtrar. Por lo general, es a través del espacio del aula". "Vimos y seguimos viendo esta plataforma como una gran oportunidad para llegar a la gente en sus casas y obtenemos ese feedback exacto".
Reconoce que les ha planteado todo un reto: "A veces es difícil traducir la historia del Holocausto, la Segunda Guerra Mundial, toda la ideología nazi y, específicamente, el campo de concentración de Mauthausen, a un video corto. Y todavía estamos aprendiendo a usar la forma de narración de historias y a encontrar un lenguaje apropiado".
Bienestar y hábitos digitales saludables
Por último, el foro de Dublín ha servido para conocer las disruptivas propuestas de la plataforma para favorecer el bienestar de los millones de personas que la utilizan a diario. ¿Una herramienta que te invita a dejar de utilizarla y pasar al canal offline? Sí, en el universo TikTok es posible.
Esa es la finalidad del espacio Tiempo y Bienestar dentro de la app de TikTok, pionero en el sector que introduce más funciones para ayudar a las personas a relajarse y crear hábitos de uso digitales conscientes.
De cara al 2026, la tecnológica realizará una contribución de 100.000 dólares al Fondo de Investigación SafeOnline de Tech Coalition "para apoyar su labor en la intersección entre los jóvenes, los investigadores y el bienestar digital", han anunciado.
Queda claro que el éxito de la plataforma "no es magia, sino matemáticas", como se ha puesto sobre la mesa en el evento. Y algo más, saber aprovechar la velocidad que imprime este apasionante momento para que tecnología y ser humano avancen hacia un mismo propósito: mejorar la vida de la gente, sin que ellos noten esa capa tecnológica; permitirles, en última instancia, llevar a cabo sus objetivos de forma ética, responsable y, sobre todo, segura.
