Desde la aparición de la Inteligencia Artificial (IA) aplicada a Internet, la humanidad entera asiste a una serie de cambios sin precedentes y que llegan a todos los ámbitos, sea para bien o con otros fines no tan claros. Su aplicación es una incógnita hacia futuro y motivo también de preocupación.
En ese marco, en la Justicia de Córdoba se presentó un caso que tiene antecedentes incluso en el país pero que sería inédito en la provincia.
En los Tribunales se presentó un padre denunciando que un compañero de su hija, estudiante de un colegio de la Capital, utilizó el rostro de ella y de otras compañeras para incluirlos en videos de contenido sexual mediante la inteligencia artificial.
Según lo informado por Cadena 3, el rostro de las adolescentes se colocó en el cuerpo de una mujer adulta en videos pornográficos, que fueron luego subidos en sitios de contenidos para adultos.
El medio señala que la denuncia fue realizada ante el fiscal Juan Ávila Echenique, quien investiga los delitos contra la integridad sexual. Y agrega que el funcionario judicial decidió derivar la investigación a una unidad judicial contravencional de género, ya que desde el ámbito penal no se puede tomar ninguna acción al respecto.
La utilización de IA para generar contenido sexual y la preocupación a nivel mundial
Con el avance de las herramientas basadas en inteligencia artificial (IA) para la generación de imágenes y la calidad de los resultados los actores maliciosos han encontrado una forma de mejorar estos ataques.
Compañías como Eset, líder en detección proactiva de amenazas en Internet, vienen advirtiendo la creación de desnudos a partir de imágenes y videos públicos para extorsionar a las personas.
En un comunicado publicado el 5 de junio del año pasado, el FBI alertó sobre el uso por parte de actores maliciosos de imágenes y videos públicos manipulados para campañas de sextorsión.
Según advierten, en el último tiempo han recibido varios reportes de víctimas que sufrieron la manipulación de videos e imágenes suyas para la creación de contenido sexual falso. Los actores maliciosos detrás de estas campañas luego divulgan este material en redes sociales o sitios de pornografía para extorsionar a las víctimas o simplemente intimidarlas.
Entre las denuncias también se registraron víctimas que son menores de edad.
Estas imágenes y videos son obtenidos de redes sociales, de fuentes públicas o incluso proporcionadas por las víctimas y mediante tecnologías basadas en Inteligencia Artificial crean imágenes falsas con apariencia muy real.
El FBI explica también que muchas de las víctimas no están al tanto de la existencia de estas imágenes falsas en las que se suplanta su identidad hasta que alguien le avisa porque las encontró de forma casual o porque son chantajeadas. Si bien es posible intentar que ese contenido desaparezca de Internet, es una tarea muy compleja.
“En los últimos años hemos visto muchas campañas de sextorsión en las cuales los delincuentes envían correos personalizados intentando asustar a las víctimas haciéndoles creer que han sido víctimas de una infección con un malware que permitió a los cibercriminales grabar videos íntimos utilizando la cámara web de la víctima. Si bien es falso y los delincuentes no han infectado con malware los equipos y no tienen videos o imágenes comprometedores, igualmente intentan extorsionar a las víctimas para que envíen dinero y de esta manera evitar que ese supuesto contenido empiece a circular por Internet. Lamentablemente, muchas personas caen en la trampa. La forma de robar el dinero puede variar, desde el depósito de determinada suma en criptomonedas en una billetera virtual a demandar el envío de Gift cards.”, señaló Camilo Gutiérrez Amaya, Jefe del Laboratorio de Investigación de Eset Latinoamérica.
Con el avance de las herramientas basadas en IA para la generación de imágenes y la calidad de los resultados los actores maliciosos han encontrado una forma de mejorar estos ataques. Actualmente existe una gran cantidad de herramientas y aplicaciones que se ofrecen de forma gratuita en repositorios públicos para crear deepfakes e incluso en foros clandestinos.
“Sin dudas esta realidad actual obliga a los cuidadores de niñas, niños y adolescentes a estar más atentos y a poner al tanto a los más pequeños sobre estas nuevas tendencias. También refuerza la importancia de enseñar buenas prácticas de privacidad en línea y las consecuencias de la información que publicamos. Pero no solo debemos proteger a los más chicos, sino también los propios adultos, que también son víctimas.”, agregó.
Algunos países ya están tomando medidas para minimizar el uso de deepfakes y en Reino Unido, por ejemplo, ya existen iniciativas para cambiar la ley y sancionar a quienes comparten estos contenidos falsos.
“El sexting, refiere al envío voluntario y consentido de fotos, videos, audios y mensajes de carácter erótico, sensual y sexual, a través de cualquier medio tecnológico. Esto quiere decir, una manifestación de nuestra sexo afectividad, bajo la absoluta decisión de cada persona y excluyendo cualquier acción basada en la obligación o la presión. Es una práctica a la que no juzgamos ni mal ni bien, es una forma más de vincularnos y experimentar que conlleva algunos riesgos: pérdida de control de nuestra información personal, difusión no consentida de material íntimo, extorsión, hasta ansiedad o depresión. A aquellas personas que deseen practicarlo, les proponemos responderse 3 preguntas: ¿Estoy seguro/a que es mi decisión o me siento obligado o extorsionado a hacerlo?, ¿Es esa persona de mi absoluta confianza?, ¿Cuáles son los riesgos a los que me expongo? Esa foto o video, quedará en poder de otra persona, y puede suceder que, por descuido (por ejemplo, pérdida o robo de su dispositivo) o por intención manifiesta, se pueda llegar a mostrar, compartir y viralizar sin tu consentimiento, y es importante tener eso en cuenta.”, comenta Javier Lombardi, Mentor Educativo de Argentina Cibersegura.
Según Argentina Cibersegura, Asociación Civil cuyo objetivo es concientizar a la comunidad sobre el uso seguro de Internet y las tecnologías, tanto adolescentes, jóvenes y adultos en caso de practicar sexting deben tener en cuenta ciertos cuidados para minimizar los riesgos: Conversar y pactar con anterioridad que ese material no se mostrará, ni reenviará y que se borrará; tener los dispositivos protegidos con un pin o patrón de desbloqueo, la memoria interna cifrada, una herramienta de seguridad instalada y actualizada; utilizar aquellas plataformas donde se autoeliminen los mensajes, aplicaciones con cifrado en ambos extremos y aquellas que permitan detectar cuándo se realiza una captura de pantalla, y evitar enviar imágenes con aquellas partes del cuerpo que podrían ser fáciles de identificar, como tatuajes, lunares, cicatrices, y prestar atención al ambiente expuesto, como muebles, cuadros, espejos, etc.
