Alphabet ha anunciado que pondrá en pausa el servicio de generación de imágenes de su modelo de inteligencia artificial Gemini. La compañía realizará cambios con el objetivo de subsanar algunos inconvenientes.
Cuando a la IA se le pedía hacer un retrato sobre un momento y lugar específico a menudo aparecían personas que no parecían encajar en el tema propuesto. Y no hay nada de malo en retratar gente de origen asiático y africano en un pueblo alemán del siglo XIX. Pero no es lo más común. Puede ser bueno para una serie documental de Netflix, pero no para quien este buscando ilustrar con seriedad un momento histórico.
Google se ha disculpado señalando que no sabía que Gemini estaba produciendo estos desaciertos históricos. La versión 1.5 Pro fue lanzada hace apenas una semana para que algunos usuarios y desarrolladores pudieran probarla. Al parecer todavía le faltaba un tiempo en el horno.
ah the classic super buff native american and indian couple from 1820 germany. thanks google! pic.twitter.com/4x1H4WsnJd
— kache (sponsored by dingboard) (@yacineMTB) February 20, 2024
Diversidad y contexto histórico
Es posible que Google haya realizado un cálculo estratégico erróneo. Jack Krawczyk, director de producto de la compañía, reconoció el problema pero apuntó que el diseño de Gemini reflejaba la base global de la compañía y la seriedad con la que se tomaban la representación y los prejuicios. Lo dicho parece indicar que la IA tenía como objetivo producir imágenes con un mayor nivel de diversidad étnica y cultural. Lo cuál es elogiable, hasta que se aplica sin criterio y se convierte en casi en una burla.
Ilustrar momentos históricos como más diversos de lo que realmente fueron es un asunto delicado. Puede contribuir a ocultar la realidad de las divisiones sociales, y en ocasiones también las terribles injusticias que los seres humanos han cometido.
En algunos casos Gemini ha creado vikingos y soldados nazis de piel negra.
Krawczyk ha señalado que los contexto históricos tienen un mayo nivel de complejidad y que existe la necesidad de afinar el diseño de la IA.
We're already working to address recent issues with Gemini's image generation feature. While we do this, we're going to pause the image generation of people and will re-release an improved version soon. https://t.co/SLxYPGoqOZ
— Google Communications (@Google_Comms) February 22, 2024
