Un niño utilizando su teléfono móvil. EuropaPress
El "salvaje Oeste digital" del niño de 9 años que se tiró de un séptimo: tenía móvil, TikTok, Instagram y jugaba 'online'
Los investigadores analizan los chats del pequeño, que tenía un acceso prematuro a internet y saltó al vacío de forma inexplicable.
Más información: Sánchez anuncia que prohibirá el acceso a las redes sociales a los menores de 16 años: "Vamos a protegerles del salvaje oeste"
Desde que Pedro Sánchez anunció en Dubái que prohibirá acceder a las redes sociales a menores de 16 años, se ha abierto un intenso debate. "Vamos a protegerles contra este salvaje Oeste", afirmó el presidente del Gobierno.
Lo cierto es que con la muerte de un niño de tan solo nueve años, que se precipitó desde un séptimo piso en Sagunto la madrugada del día de Navidad, saltaron todas las alarmas.
¿Qué pudo llevar a saltar al vacío a un pequeño sin conflictos conocidos en su vida familiar y en sus círculos de amistad? ¿Pudieron incitarle a quitarse la vida personas con las que contactó a través de internet, dada su prematura actividad digital?
Son aún preguntas sin respuesta. Pero lo cierto es que el niño, a su corta edad, ya tenía móvil, cuentas en dos redes sociales -TikTok e Instagram- y jugaba online a Fortnite y Roblox.
Los investigadores analizan las conversaciones del menor en todas estas plataformas en busca de respuestas ante el inexplicable suicidio.
La Unidad de Atención a la Familia y la Mujer (UFAM) de la Policía Nacional se hizo cargo de la investigación. En un primer momento se descartó que fuera víctima de acoso escolar, aunque se desconocía si sufría otro tipo de delito o si alguien le había incitado a través de redes sociales.
Según avanzó Las Provincias, los investigadores del Grupo de Menores (GRUME) analizaron las dos redes mencionadas, en las que el niño tenía el perfil público, a pesar de que la edad mínima para abrir una cuenta es de trece años.
También revisaron los chats de mensajería de Fortnite y Roblox, los dos videojuegos a los que jugaba de manera habitual, aunque todavía no ha trascendido el contenido de los mensajes y si estas plataformas habrían tenido que ver con el fallecimiento del joven.
"Falta de control"
"Cambiaremos la ley para responsabilizar a los directivos por contenido ilegal y de odio", anunció Sánchez, durante su intervención en el World Governments Summit de Dubái el pasado martes 3 de febrero.
"Las redes sociales se han convertido en un Estado fallido, en el que los algoritmos distorsionan el debate público y donde se distorsionan nuestros datos y nuestras imágenes", aseguró.
El jefe del Ejecutivo central propone convertir las redes sociales en un espacio protegido y justificó la medida por la necesidad de frenar lo que considera una falta de control estructural en el entorno digital.
La iniciativa obligará a las grandes plataformas tecnológicas a implementar sistemas de verificación de edad y se integra en el proyecto de Ley Orgánica para la protección de las personas menores en entornos digitales, actualmente en tramitación en el Congreso.
Además, defendió que los poderes públicos deben actuar con mayor determinación frente a plataformas "más ricas y poderosas que muchos países".
Vídeo | Sánchez anuncia que el Gobierno restringirá el uso de redes sociales a los menores de 16 años
Cinco medidas
La primera de las medidas legislativas y regulatorias que Sánchez anunció para hacer frente a los abusos de las grandes plataformas digitales es poner fin a "la impunidad de los directivos" para que sean legalmente responsables de las infracciones que se comentan en ellas.
El Gobierno también pretende tipificar como delito la manipulación de los algoritmos y la amplificación de contenido ilegal.
La tercera consiste en prohibir en España el acceso a redes sociales a menores de 16 años, obligando a las empresas a implementar sistemas efectivos de verificación de edad.
En cuarto lugar, se pretende crear un sistema de rastreo, cuantificación y trazabilidad que permita establecer una Huella de Odio y Polarización.
Por último, abordar junto a la Fiscalía las vías para investigar las posibles infracciones legales de Grok, TikTok e Instagram.
España quiere unirse así a cinco países europeos en la "Coalición de los Dispuestos Digitales" para avanzar de manera coordinada y eficaz a nivel multinacional en la aplicación de una regulación más estricta, rápida y eficaz de las plataformas sociales.
Resumen de las medidas de protección en entornos digitales y métodos de implementación
Medida 1. Responsabilidad penal de los directivos de las plataformas
Contenido de la medida
El Gobierno propondrá una reforma del Código Penal para que los directivos de las plataformas digitales puedan ser considerados penalmente responsables de las infracciones cometidas en sus servicios, en particular cuando incumplan una orden de retirada de contenidos ilícitos. Esto implica que altos ejecutivos de empresas tecnológicas podrán responder penalmente por la inacción deliberada ante este tipo de contenidos.
Cómo se llevará a cabo
Esta medida se incluirá en un Proyecto de Ley Orgánica que será remitido al Parlamento. La reforma introducirá un régimen de responsabilidad penal específico para los responsables últimos de las plataformas, poniendo fin a la impunidad derivada de la falta de control efectivo sobre los contenidos que se difunden bajo su supervisión.
Medida 2. Penalización de la manipulación algorítmica y la amplificación de contenidos ilegales
Contenido de la medida
Se tipificará como nuevos delitos la manipulación de algoritmos que facilite la amplificación deliberada de contenidos ilegales, y la alteración del funcionamiento de sistemas automatizados de procesamiento de datos. Se reconoce que estos contenidos no surgen de forma espontánea, sino que son creados, impulsados y amplificados por actores concretos y por algoritmos diseñados para maximizar beneficios. Francia ya ha avanzado en su legislación sobre procesamiento reconociendo el impacto de la manipulación en algoritmos e introdujo en su Código Penal delitos similares en 2023.
Cómo se llevará a cabo
Al igual que la primera medida, esta se vehicular a través de un Proyecto de Ley Orgánica que será tramitado en el Parlamento. La norma incorporará la responsabilidad penal de las plataformas cuyos algoritmos amplifiquen contenidos ilegales, superando la idea de que la tecnología es neutral.
Medida 3. Creación de la “Huella de Odio y Polarización”
Contenido de la medida
El Gobierno desarrollará un sistema denominado “Huella de Odio y Polarización”, destinado a rastrear, medir y hacer visible cómo las plataformas digitales fomentan la polarización social y amplifican el odio. El objetivo es transformar un fenómeno hasta ahora opaco en un elemento cuantificable y evaluable, generando un ranking de peores a mejores plataformas en relación con la presencia de odio y polarización en las mismas.
Cómo se llevará a cabo
Esta medida se materializará mediante el desarrollo de una herramienta específica, que permitirá un análisis más riguroso del comportamiento de las plataformas y de sus algoritmos en relación con la polarización y la promoción del odio. La información generada permitiría abrir debates sobre el control de las plataformas y los mecanismos para favorecer entornos digitales más seguros.
Medida 4. Prohibición del acceso a redes sociales para menores de 16 años
Contenido de la medida
España prohibirá el acceso a redes sociales a los menores de 16 años, siguiendo los pasos de otros países como Francia y Australia. Además, las plataformas estarán obligadas a implantar sistemas efectivos de verificación de edad, que vayan más allá de simples declaraciones formales, garantizando barreras reales y eficaces.
Cómo se llevará a cabo
Esta medida se desarrollará a través de la prohibición expresa de acceso a menores en un nuevo artículo del Proyecto de Ley de Protección de Personas Menores de Edad en entornos digitales. Esa prohibición, y en virtud del artículo 28 de DSA y de las directrices publicadas por la Comisión, promoverá que las plataformas y redes sociales a implantar sistemas de verificación seguros para garantizar el cumplimiento de esa ley nacional.
Medida 5. Tolerancia cero frente a infracciones vinculadas a contenido sexualizado de menores
Contenido de la medida
El Gobierno actuará con tolerancia cero frente a las posibles infracciones cometidas por plataformas como Grok o TikTok relativas a la generación con IA de contenido sexualizado vinculado a menores o a la difusión de los mismos.
Cómo se llevará a cabo
El Gobierno trabajará conjuntamente con todos los poderes e instituciones, especialmente el Ministerio Fiscal, para prevenir, detectar, investigar y, en su caso, promover la acción de la justicia frente a las infracciones detectadas.
