Uno de los grandes problemas de la realidad de Internet actual es que todo el contenido en las redes es monetizable. TikTok se ha convertido en un hervidero de vídeos que monetizan desde pornografía directa hasta casos horribles de true crime.
Su última polémica, relatan desde The Verge, tiene que ver con el genocidio que el ejecutivo de Benjamin Netanyahu está perpetrando contra Palestina en la Franja de Gaza. TikTok estaría usando IA para detectar elementos 'comprables' en vídeos del genocidio.
La plataforma de ByteDance está incorporando un sistema de búsqueda similar a Google Lens o al más reciente Apple Visual Intelligence, que permite ver en vídeos ciertos elementos disponibles en la TikTok Shop. El problema es que no distingue entre vídeos normales y vídeos de Gaza.
TikTok y la monetización absoluta
El problema fue visto en primer lugar por la periodista Mia Sato de The Verge. En uno de los muchos vídeos que muestran el horror de Gaza, se puede ver a una mujer gazatí llorando al ver cómo su casa era destruida enterrando a su familia con ella.
Un botón aparecía en el vídeo: "Buscar similares". Al tocar, TikTok hace un recorte en la pantalla y redirige a Sato a la TikTok Shop, detectando el vestido de la gazatí y ofreciéndonos comprarlo en la tienda de la plataforma.
Fotomontaje con las capturas del sistema.
La función de escaneo, que parece haber sido implementada hace escasas semanas en forma de prueba limitada, sirve como una suerte de etiquetas de búsqueda visual, que utiliza inteligencia artificial para identificar objetos en el contenido que vemos.
La idea es que podamos comprar vestidos, muebles u objetos similares que aparezcan en un vídeo con apenas unos toques. El problema, como dice la misma TikTok, es que los resultados pueden ser erróneos o en el peor de los casos, problemáticos.
Tras la polémica, TikTok aseguró que esta implementación fue fruto de una prueba "limitada" de una función de búsqueda visual "que no debería haber aparecido en estos vídeos", relató una portavoz de TikTok a The Verge.
Es evidente que la inteligencia artificial que potenciaba este sistema de búsqueda no hace distinción alguna sobre la naturaleza del vídeo. Independientemente de si es un vídeo informativo o centrado en el entretenimiento, la función ofrece estos enlaces directamente al usuario.
Palestinos desplazados, que huyen del norte de Gaza por a una operación militar israelí.
También juega un papel clave el concepto de superapp con el que Musk lleva coqueteando unos años. El objetivo de las plataformas de redes sociales es encerrar a los usuarios en su propio ecosistema de consumo digital.
Es decir, que no solo consumamos contenido en sus plataformas, sino que compremos en ellas, y realicemos gestiones a través de ellas, capitalizando de una forma u otra las interacciones de su comunidad de usuarios.
De esta forma, con los sistemas de búsqueda visual, cada pieza multimedia que veamos en estas redes sociales se convierte en una oportunidad de vendernos algo, incluso si el vídeo no pretendía tal fin en ningún caso.
En ningún caso es posible pretender que un sistema de inteligencia artificial que impulsa una plataforma de venta online entienda el contexto de un genocidio, y mucho menos comprender que hay personas que simplemente no son vallas publicitarias.