Digital
Las alertas están sonando en todo el mundo ante el crecimiento de esta práctica que vulnera la integridad física y emocional de los más pequeños, convirtiéndose en un mecanismo de violencia de género y acoso.
El uso de tecnología a temprana edad es una práctica que especialistas de la psicología y educación recomiendan evitar, ya que sin una capacitación adecuada, podría introducir a los más pequeños a un mundo digital, donde se arriesgan a entornos oscuros, en el que el uso de las herramientas como la inteligencia artificial (IA) son utilizadas con intenciones maliciosas.
En la era de la IA, principalmente la generativa, todo se ha vuelto posible. Mientras gran parte de las personas están usando esta tecnología para mejorar algunas funciones y ser más productivos, hay una gran parte de individuos que la usan para vulnerar la integridad de otros. Es allí donde entra el deepfake, una tendencia que se está popularizando por la creación de imágenes, vídeos y audios falsos de personas, incluso con contenido sexual.
“En varios países se han reportado diversos casos de menores de edad que han usado esta herramienta para elaborar y difundir contenido sexual falso de compañeras y compañeros de escuelas. En la región se conocen hechos en Chile, Perú y Ecuador. Pero también hay reportes en Estados Unidos, Corea del Sur y Europa, países donde han levantado alertas por la proliferación de pornografía infantil elaborada con IA”, expresa Fabiana Ramirez Cuenca, investigadora de seguridad informática de ESET Latinoamérica.
Solo en Estados Unidos 1 de cada 10 menores de edad confirmó que conocía casos de compañeros que creaban y compartían imágenes pornográficas de otros niños sin su consentimiento, de acuerdo con una encuesta que realizó la ONG Thorn en 2023 a 1.040 niños y adolescentes de entre 9 y 17 años de edad.
“Los datos son realmente alarmantes. En su encuesta, Thorn precisó que al menos 7% de los consultados afirmó haber compartido imágenes sexuales de otras personas, mientras que casi 20% aseguró haber visto imágenes de otros compartidas sin su consentimiento. Esto representa una pequeña radiografía de lo que ocurre en todo el mundo. Hoy el mal uso de la IA para crear este tipo de contenido se está catalogando como acoso y violencia de género y que debe ser tomado con mucho peso por las autoridades de los países”, recalca la experta.
Todos los días la tecnología da un paso más en cuanto a innovación, es por ello que la educación digital toma un fuerte peso, principalmente en los menores de edad para que hagan un uso adecuado, consciente y sin riesgo alguno.
“En un mundo tan digitalizado como el de hoy es prioritario que en las escuelas, desde los niveles más pequeños, incluyan temas y materias enfocadas en la ciberseguridad: desde los riesgos y peligros, hasta los reglamentos y leyes que castigan ciertas conductas. Pero también es importante la capacitación de los padres. Muchos usan como métodos de distracción teléfonos y tablets para que sus hijos estén ocupados. Pero esto tiene que ser con responsabilidad y supervisando qué hacen los pequeños en Internet”, menciona Ramírez.
La especialista detalla que para la creación de un deepfake la otra persona solo necesita de su víctima una foto de su rostro, el tono de voz de la persona, rasgos físicos que lo caracterizan. Estos datos, que en muchos casos son obtenidos a través de lo que se publica en las redes sociales, permiten al ciberdelincuente cargar a la IA estos algoritmos para lograr resultados realistas.
Cuidar de los más pequeños es también preservar la integridad de otros. La educación digital se ha vuelto clave para el manejo adecuado y sin riesgo de la tecnología y el Internet. Frente a la novedad de la IA, que sí aporta beneficios con su uso, la responsabilidad de un entorno seguro para los niños, niñas y adolescentes es compartida.
Desde ESET comparte algunos consejos para evitar que las personas sean víctimas de un deepfake:
– Es importante concientizar sobre los riesgos que implica el compartir imágenes en lugares públicos, esto porque justamente las imágenes se usan para entrenar a algoritmos de IA o para modificarlas y darles el contenido sexual que surge esta problemática.
– Para el caso de los menores de edad, hay que enfocarse también en concientizar a sus progenitores o tutores, así como adultos a su alrededor para que puedan ayudarlos a prevenir y afrontar los riesgos.
– Es de utilidad utilizar herramientas basadas en IA que permitan, por ejemplo, identificar a los deepfakes.
– Tener en cuenta que las plataformas donde publicamos información e imágenes, tienen sus políticas de privacidad, las que hay que revisar para conocer el grado de exposición. Lo mismo, para asegurarnos de que la plataforma esté también comprometida en la detección de deepfakes.
– En el caso de resultar víctima, se debe hacer las denuncias pertinentes ante las autoridades. Pero, también es importante apoyar a la persona afectada y no difundir los deepfakes.
