Qué son los deepfakes, cómo afectan a los jóvenes y cómo actuar

La inteligencia artificial puede ser una herramienta increíblemente útil para aprender y trabajar. Pero como cualquier herramienta poderosa, también puede usarse para hacer daño, especialmente cuando se trata de los más vulnerables: los niños, niñas y adolescentes.

Uno de los riesgos más graves que existen hoy se llama deepfake, una palabra en inglés que podría traducirse como "falsedad profunda". Y las cifras no son menores: según un estudio de UNICEF, ECPAT e INTERPOL realizado en 11 países, 1 de cada 25 niños ha sido afectado por esta práctica. Eso representa, al menos, 1.2 millones de víctimas en el mundo.

¿Qué es un deepfake?

Un deepfake es una imagen, video o audio que ha sido creado o modificado con inteligencia artificial para parecer completamente real. Se usan mucho en el entretenimiento y en efectos visuales de películas, pero su uso se ha extendido a terrenos mucho más preocupantes: la desinformación y el abuso sexual infantil.

Cuando un deepfake se convierte en abuso

Algunos adultos y adolescentes toman fotos reales del rostro de un menor y, con ayuda de la IA, crean imágenes o videos con contenido sexual. Aunque esas imágenes sean falsas, el daño emocional que generan en las víctimas es completamente real. Por eso esta práctica es considerada abuso sexual infantil.

Y no hace falta que haya un niño o niña real involucrado. Incluso cuando la IA crea imágenes de menores que no existen pero tienen contenido sexual, sigue siendo un delito, porque normaliza este tipo de material y alimenta su demanda.

Esto no es algo que solo les pasa a otros

Puede parecer un problema lejano, pero no lo es. En algunos grupos de adolescentes ya se está usando la inteligencia artificial para crear imágenes comprometedoras de sus propios compañeros, ya sea por burla, acoso o venganza. Sin importar el motivo, esto es violencia sexual.

Y lo más revelador es que los propios niños y adolescentes son conscientes de este riesgo: según encuestas citadas por UNICEF, hasta dos terceras partes de ellos han expresado preocupación de que alguien pueda usar la IA para falsificar imágenes o videos suyos con fines sexuales. El miedo no es solo de los adultos; ellos también lo sienten.

Señales de alerta en casa

Aunque las imágenes sean falsas, el impacto en quien las padece puede ser enorme. Algunas señales de que tu hijo o hija podría estar viviendo algo así son:

• Recibir amenazas o extorsiones relacionadas con imágenes.

• Aislarse de amigos, familia o actividades que antes disfrutaba.

• Mostrar vergüenza o incomodidad incluso en casa, sin una razón aparente.

¿Qué hacer si confirmas que tu hijo o hija es víctima?

Lo más importante es actuar rápido. Estos son los pasos a seguir:

1. Documenta todo: toma capturas de pantalla donde se vea la fecha y hora, guarda los enlaces y los perfiles de los usuarios involucrados. Cada detalle cuenta a la hora de denunciar.

2. Solicita la eliminación del contenido usando estas herramientas:

- Take it Down: plataforma en línea donde puedes reportar y pedir que se eliminen fotos o videos con desnudos de menores de edad.

- Te Protejo: línea virtual de reporte en Colombia, enfocada en la protección de la infancia y conectada con autoridades nacionales, organizaciones internacionales y plataformas digitales.

- Policía Nacional: puedes registrar la denuncia directamente en línea.

3. Cuida la salud mental de tu hijo o hija: busca acompañamiento psicológico. El impacto emocional de este tipo de situaciones puede ser profundo y merece atención profesional.