La organización Humans Rights Watch ha señalado que en Brasil las fotos de niños están siendo utilizadas para entrenar sistemas de inteligencia artificial, sin el consentimiento de los niños o sus padres. Las imágenes son tomadas de Internet por las herramientas automatizadas de las empresas desarrolladoras. Lo que es más grave aún, estas herramientas luego son utilizadas para crear deepfakes.
En particular, HRW apuntó a la base de datos LAION-5B, utilizada por varias empresas. Allí había fotos de varios niños, en algunos casos con sus nombres y el enlace al sitio en el que la imagen estaba almacenada. De algunas fotografías era posible saber en que lugar y cuando habían sido tomadas.
Un total de 170 fotos de menores fueron encontradas. Dado que la organización solo examinó el 0,0001% de las 5850 millones de imágenes almacenadas, es lógico suponer que hay millones de archivos con características similares.
Respuesta de la empresa
LAION, la empresa alemana que maneja la base de datos, confirmó que el material estaba presente y se comprometió a eliminarlo. También apuntó que los niños y sus tutores eran los responsables de remover las fotografías de Internet.
Eliminar de Internet todo lo que quieras mantener privado es un buen consejo. Señalar que tener archivos en la red supone donarlos a cualquier tipo de uso es otra cosa.
Los archivos y las personas
Las condiciones de publicación del material son variadas. Algunas de las fotografías fueron publicadas por los menores, otras por sus padres o miembros de la familia en blogs personales y sitios para compartir videos. Muchas de las imágenes no aparecen en los motores de búsqueda. Lo cual implica que habían sido sujetas a ciertas medidas de privacidad. Los momentos retratados en ocasiones tienen cierto nivel de intimidad: nacimientos cumpleaños, presentaciones escolares y otros eventos similares se repiten.
Esos archivos pueden ser utilizados para crear deepfakes. Entre los peores casos están los que involucran el contenido explícito con menores.
