Un informe de la BBC ha revelado que grupos de pedófilos están utilizando la tecnología de inteligencia artificial para crear imágenes de abuso infantil. En una gran cantidad de casos la herramienta elegida para esta tarea ha sido Stable Diffusion.
Una parte del material es distribuido de forma gratuita para la promoción de otro contenido reservado para suscriptores. Uno de los medios utilizados para este negocio es Patreon.
Tanto los creadores de Stable Diffusion como Patreon han manifestado su rechazo a esta práctica.
Conexión Japón
Según el Cuartel General de Comunicaciones del Gobierno, uno de los organismos de inteligencia del Reino Unido, los abusadores han adoptado esta tecnología y hasta hay quienes creen que se trata de la opción que se impondrá en el futuro.
En el Reino Unido las imágenes de abuso infantil generadas por computadora no son tratadas de forma diferente que las reales. Su posesión, transferencia, distribución o publicación es ilegal. Sin embargo, muchas de las imágenes son distribuidas a través del sitio web Pixiv, que tiene sus servidores en Japón. En ese país la distribución de imágenes de menores con altos niveles de sexualización no está prohibida.
Por lo general, Pixiv es empleada para la promoción de manga y animé. La compañía ha prohibido las imágenes fotorrealistas de menores con contenido sexual. También ha señalado que está trabajando para mejorar los métodos de detección. Muchas de las imágenes creadas por estos grupos en Pixiv tienen comentarios con ofertas de imágenes no generadas a través de una IA.
