Un grupo de investigadores ha descubierto que los sistemas de generación de imágenes a menudo producen copias exactas de las imágenes que fueron utilizadas en su entrenamiento. El trabajo, que contó con la participación de profesionales de DeepMind, Google y las universidades de California y Berkeley, fue publicado en el repositorio arXiv.
La intención original del estudio era ver el nivel de vulnerabilidad que tenían los sistemas, su capacidad para mantener su base de datos segura. Para ello se creo un programa cuyo objetivo era, a través de una serie de peticiones echas a las IA, extraer las imágenes de las bases de datos.
Las quejas de los artistas
Tanto Stable Difussion como Dall-E 2 han ofrecido grandes resultados a la hora de producir imágenes de gran calidad a partir de unas pocas indicaciones. Sin embargo algunos artistas se han quejado de que estos sistemas parecen destinados a dejarlos sin trabajo. En el estado actual de las herramientas tal situación parece poco probable.
Más fundamentados parecen los reclamos en contra del uso sin permiso de sus trabajos para el entrenamiento de las IA. El problema no solo es la falta de pago, sino que en ocasiones lo producido a través de los algoritmos es extremadamente similar a las obras originales.
Confirmación
En la investigación se descubrió que en ocasiones los sistemas simplemente ofrecen una imagen de su base de datos. Durante las pruebas realizadas este tipo de resultados se produjeron en 100 de los 1000 pedidos realizados. Es importante notar que las consignas ingresadas durante la investigación tenían precisamente este objetivo.
Los originales en la parte superior. Los generados en la inferior.
Los sistemas de generación de imágenes tienen mecanismos destinados a prevenir la duplicación de una imagen de la base de datos. Sin embargo, los resultados obtenidos parecen indicar que estas precauciones son insuficientes.
Este tipo de comportamiento es problemático por varias razones. Primero, porque ofrece como nuevo un producto ya existente. Segundo, porque en muchos casos se utilizan imágenes tomadas de Internet, vulnerando derechos de copia y sin pedir el consentimiento de las personas involucradas.
