Las imágenes deepfake criminales y abusivas son cada vez más difíciles de procesar: NPR
Un hombre de Ohio ha sido condenado por delitos cibernéticos, incluida la publicación de imágenes generadas por IA que representan actividad sexual abusiva, en una primicia histórica en virtud de la Ley Federal Take It Down de 2025. Pero los expertos advierten que procesar estos casos es cada vez más difícil.
James Strahler, 37 años, se declaró culpable hasta el acoso cibernético, la producción de representaciones visuales obscenas de abuso sexual infantil y la publicación de falsificaciones digitales, delitos que incluían imágenes tanto reales como generadas por IA, según la Fiscalía Federal en el Distrito Sur de Ohio.
La Ley Take it Down prohíbe la publicación de contenido digital íntimo y no consensuado.
Strahler utilizó docenas de plataformas de inteligencia artificial y más de 100 modelos de inteligencia artificial basados en la web en su teléfono para crear más de 700 imágenes ilícitas para publicar en un sitio web dedicado a material de abuso sexual infantil, según el Departamento de Justicia.
Según registros judiciales, Strahler fue capturado cuando una de sus víctimas adultas informó haber recibido mensajes amenazantes y acosadores.
Los registros judiciales también indican que Strahler admitió ser quien estaba detrás de las llamadas y mensajes de texto violentos. La información extraída de su teléfono incautado reveló víctimas adicionales y el alcance del abuso de IA.
Pequeños riesgos para grandes pagos
Kolina Koltai es investigadora principal de Bellingcat, un grupo de periodismo de investigación, que se especializa en tecnología de inteligencia artificial.
Dijo que el gran volumen de contenido que Strahler creó no es inusual para este tipo de delincuentes, y eso es parte de lo que hace que sea tan difícil de manejar para las fuerzas del orden.
«Incluso cuando pensamos en los primeros días de la tecnología de inteligencia artificial, la gente tendría que aprender cómo instalar o alojar algo localmente en sus propios dispositivos», dijo Koltai.
«Pero hoy en día, incluso puedes ir a un dominio web y colocar un aviso, y debes tener muy poco conocimiento técnico para poder comenzar a crear el contenido. Esto plantea un gran desafío porque hay una cantidad abrumadora de contenido».
Koltai citó programas de edición anteriores como Photoshop, un costoso software de diseño gráfico que fue pionero en la ingeniería de imágenes de aficionados y requería cierto grado de habilidad para realizar ediciones realistas.
«Hoy en día», sin embargo, dijo, «con un dólar o, a veces, incluso más barato, puedes tomar una foto de cualquier persona en Internet y ponerla en un ‘nudificador’ o algún tipo de plataforma de generación de inteligencia artificial y crear una nueva imagen convincente incluso basada en el rostro de esa persona».
A los problemas de las fuerzas del orden cuando buscan a estos ciberdelincuentes también se suma la abrumadora cantidad de plataformas dedicadas a crear material deepfake.
«A menudo es increíblemente difícil saber qué tecnología, qué servicio, qué plataforma está usando la persona… a menos que tengamos acceso a sus dispositivos o al historial de su navegador», dijo Koltai.
«No es que solo haya dos o tres proveedores. Todo el mundo está tratando de entrar en el juego porque es una industria multimillonaria», dijo, añadiendo que los sitios a menudo compran múltiples dominios con diferentes extensiones (punto com, punto io, etc.) para evitar ser desconectados.
«Incluso para nuestro sitio de investigación, cuando cerramos un sitio, lo cual es genial, desafortunadamente es una especie de hidra, donde todavía hay muchos otros servicios dispuestos a ocupar el lugar de ese otro», dijo. «Es un problema difícil de resolver hasta que dificultemos el uso de estas plataformas».
Deepfakes y jóvenes
La transición de la IA de una tecnología oscura a una convencional se produjo más rápido que la capacidad de la ley para adaptarse, dijo Matthew Faranda-Diedrich, un abogado que ha manejado casos relacionados con desnudos falsificados.
«Pasamos de hace dos años, sin haber oído hablar de esto, sin haber visto nunca un caso como este, a tener ahora mismo, desafortunadamente, cinco o seis de estos casos», dijo.
Faranda-Diedrich dijo que trabaja en estrecha colaboración con la policía para ayudarlos a comprender la tecnología en rápida evolución y apoyarlos durante sus investigaciones sobre comportamientos potencialmente ilegales.
Pero tanto para la policía como para los civiles, dijo, a menudo hay una curva de aprendizaje para comprender cuán sofisticadas pueden ser muchas de estas aplicaciones para manipular imágenes de manera inapropiada.
«Pensarán en cuando eran más jóvenes o en otras generaciones y dirán: ‘Oh, esto es como Photoshop’, y tendrán la idea en su cabeza de que se puede decir fácilmente que la imagen manipulada es falsa. Pero, de hecho, las imágenes producidas por las aplicaciones ‘nudify’ parecen muy reales y no se parecen en nada a una imagen retocada con Photoshop».
«Llamémoslo como es»
La distribución de deepfakes no consensuados es un problema multigeneracional, pero está especialmente extendido entre los jóvenes. la investigación muestra.
Y las mujeres y las niñas corren un riesgo especial, ya que se estima que El 90% de las víctimas. de estos crímenes.
Faranda-Diedrich dijo que en la mayoría de los casos en los que ha estado involucrado, tanto las víctimas como los perpetradores de los crímenes han sido niños, con edades comprendidas entre 14 y 16 años.
«Hay que tratar de educarlos sobre los peligros de esto y los daños que puede causar para que los niños no tomen decisiones ‘tontas’ que en realidad terminen dañando a las personas de manera tan desastrosa», dijo.
Y las escuelas, dijo, tienen la gran responsabilidad de involucrarse ante los primeros signos de abuso de estas tecnologías.
«Llamémoslo como es: es pornografía infantil», dijo Faranda-Diedrich. «Y no creo que ningún administrador escolar diría jamás: ‘Oh, si supiera de [child sexual abuse material]Yo no llamaría a la policía.’ Por supuesto que lo harían. Y necesitan hacer la misma llamada aquí y ponerla en manos de las autoridades más rápido».