La responsabilidad de TikTok y otras plataformas: ¿hasta dónde llega su obligación de detectar y retirar contenidos de abuso sexual infantil?
La protección de la infancia no admite responsabilidades diluidas entre algoritmos, usuarios y empresas
(Imagen: E&J)
La responsabilidad de TikTok y otras plataformas: ¿hasta dónde llega su obligación de detectar y retirar contenidos de abuso sexual infantil?
La protección de la infancia no admite responsabilidades diluidas entre algoritmos, usuarios y empresas
(Imagen: E&J)
Hay espacios que nacieron para conectar personas y que, sin embargo, pueden terminar convirtiéndose en lugares donde se vulneran sus derechos más esenciales. Internet es uno de ellos. Lo que comenzó como una ventana abierta al conocimiento, la comunicación y el entretenimiento, ha dejado al descubierto una realidad mucho más oscura: la utilización de las redes sociales como instrumento para captar menores, acosarlos sexualmente y difundir material de abuso sexual infantil.
TikTok, una de las plataformas con mayor presencia entre los más jóvenes, se encuentra ahora en el centro de esta problemática. Y la cuestión que se plantea trasciende la responsabilidad individual de quienes cometen estos delitos. Nos obliga a preguntarnos qué responsabilidad corresponde a las empresas que administran estos espacios, diseñan sus algoritmos y disponen de herramientas para detectar conductas ilícitas.
La gravedad del asunto ha quedado patente tras una investigación publicada por Maldita.es. Durante 35 días, su equipo examinó TikTok reproduciendo los itinerarios que seguiría alguien interesado en localizar este tipo de material. Analizó el funcionamiento del buscador, los sistemas de recomendación y las retransmisiones en directo, y siguió determinadas redes de usuarios hasta otras aplicaciones de mensajería.

(Imagen: E&J)
Suscríbete a nuestra
NEWSLETTER
Los resultados son alarmantes. La investigación documenta más de 1.000 vídeos con contenido sexual explícito de menores, más de 1.900 comentarios de carácter sexual y más de 48 millones de visualizaciones, además de 26.000 cuentas de potenciales pederastas. Pero, aún más preocupante resulta que, tras denunciar una muestra de los contenidos identificados, TikTok únicamente retirase el 10% de los vídeos comunicados.
El problema no reside exclusivamente en que determinados usuarios utilicen la app para cometer delitos. La investigación apunta a algo más profundo: que las propias herramientas de TikTok facilitan el acceso y circulación de estos contenidos. Sus sistemas de búsqueda y recomendación conducen hasta material de abuso sexual infantil, mientras que los Live protagonizados por los más pequeños se convierten en escenarios de acoso y solicitudes sexuales a cambio de regalos virtuales adquiridos con dinero real.
Por tanto, la prohibición de que los menores de 18 años realicen retransmisiones en directo no parece suficiente cuando, en la práctica, siguen produciéndose. Y cuando los mecanismos de protección fallan, la plataforma deja de ser un mero escenario en el que ocurren determinados comportamientos para convertirse en un entorno cuyas propias características pueden facilitar su continuidad y difusión.

(Imagen: E&J)
Ante estos hechos, la respuesta institucional no se ha hecho esperar.
La Agencia Española de Protección de Datos ha anunciado actuaciones dentro del ámbito de sus competencias. Tras recibir una comunicación del Ministerio de Juventud e Infancia, ha solicitado a Maldita.es los enlaces concretos en los que podrían estar produciéndose tratamientos ilícitos de datos personales de menores y ha requerido a TikTok información sobre las medidas adoptadas para retirar los contenidos denunciados. Tras examinar esa información, contempla ordenar el bloqueo de aquellos enlaces y contenidos que impliquen un tratamiento lesivo de datos personales.
Por su parte, la Fiscalía de Sala de Criminalidad Informática ha presentado una denuncia para que se investiguen los posibles delitos relacionados con la difusión de este material en la aplicación. La investigación penal y la determinación de las eventuales responsabilidades corresponden ahora a las autoridades competentes.
Desde el punto de vista jurídico, conviene distinguir las obligaciones de cada uno de estos actores. La Ley Orgánica 3/2018, de Protección de Datos Personales y garantía de los derechos digitales, establece en su artículo 84.2 que el Ministerio Fiscal debe intervenir cuando la utilización o difusión de imágenes de menores en redes pueda suponer una intromisión ilegítima en sus derechos fundamentales, instando las medidas cautelares y de protección que procedan.
A ello se suma el Reglamento de Servicios Digitales (Reglamento UE 2022/2065), que refuerza el deber de diligencia de las plataformas en línea. Entre otras cuestiones, exige mecanismos accesibles para notificar contenidos ilícitos y actuar con diligencia cuando adquieren conocimiento efectivo de ellos. También impone a aquellas de gran tamaño mandatos adicionales para evaluar y reducir los riesgos sistémicos derivados de sus servicios, entre los que se encuentran los efectos negativos sobre los menores y la difusión de piezas digitales delictivas.
Esto no significa que estén sometidas a una obligación ilimitada de supervisar indiscriminadamente todas las comunicaciones de sus usuarios. El propio Reglamento prohíbe imponer una obligación general de monitorización.

(Imagen: E&J)
Ahora bien, esa limitación no puede convertirse en una excusa para permanecer indiferente ante riesgos conocidos ni para desentenderse de las herramientas de prevención y respuesta que la normativa exige.
Y aquí se encuentra el verdadero núcleo del debate. No basta con disponer de un botón para denunciar contenidos ni con publicar normas comunitarias que prohíban ciertas conductas. Una política de protección de menores no puede quedarse en una declaración de intenciones. Debe traducirse en mecanismos eficaces de detección, revisión y bloqueo, en sistemas capaces de identificar patrones de riesgo y en una respuesta inmediata cuando se advierta la posible existencia de material de abuso sexual infantil.
Pero la tutela no debe llegar después del daño, sino anticiparse a él. Es imperativo pasar de un modelo reactivo a uno verdaderamente preventivo.
No se trata únicamente de retirar aquello que ya ha sido publicado, sino de establecer barreras que dificulten que esos contenidos lleguen a difundirse y que impidan que los menores queden expuestos a situaciones de explotación y violencia sexual. La tecnología que permite recomendar millones de vídeos en cuestión de segundos también debe ponerse al servicio de la protección de quienes se encuentran detrás de la pantalla.
TikTok, como cualquier otra plataforma de semejante alcance, merece reconocimiento cuando sus herramientas sirven para comunicar, crear y acercar a las personas. Pero ese reconocimiento no puede blindarla frente a la crítica ni eximirla de responder por las deficiencias de sus sistemas. Ninguna empresa debería poder ampararse en la magnitud de su comunidad para justificar la insuficiencia de sus mecanismos de protección.
Al contrario, cuanto mayor es su capacidad de influencia, mayor debe ser también su compromiso con la seguridad de quienes utilizan sus servicios.

(Imagen: E&J)
Tan importante como celebrar los logros es evitar escándalos de esta naturaleza. Pasar desapercibido siempre será preferible a ocupar titulares por permitir que la explotación sexual infantil encuentre un espacio de difusión. Y estar en boca de todos por esto no es, precisamente, algo de lo que TikTok pueda sentirse orgullosa.
La protección de la infancia no admite medias tintas, demoras injustificadas ni responsabilidades diluidas entre algoritmos, usuarios y empresas. Porque detrás de cada vídeo no hay una cifra, una visualización o una interacción más, sino un menor cuyos derechos han sido vulnerados y cuya dignidad no puede quedar sometida a las reglas de rentabilidad de una plataforma.
La prevención no puede esperar a que el daño sea irreversible, pues tal y como advirtió Gabriela Mistral, “el futuro de los niños es siempre hoy. Mañana será tarde”.
Una realidad que invita a recordar las palabras de Nelson Mandela: “No puede haber una revelación más intensa del alma de una sociedad que la forma en que trata a sus niños”. Una reflexión que interpela no solo a las familias y a las instituciones públicas, sino también a las empresas que, por el alcance de sus servicios, tienen una responsabilidad directa en la salvaguarda de la infancia.


