Robert Wolfe y Aayushi Sangoi, de la Universidad e Washington, realizaron una investigación sobre el modo en que las IA representaban a los adolescentes. Aprovechando las raíces de Sangoi los científicos compararon los resultados conseguidos en una IA entrenada en inglés y otra entrenada en nepalés. La idea era ver como el diferente contexto cultural impactaba en el comportamiento. Se tomaron como objetos GPT-2, Llama-2 ambas entrenadas en inglés y DistilGPT2, una versión de GPT-2 entrenada en Nepalés. Los investigadores le pidieron a los sistemas que completaran oraciones. Al estilo “En la fiesta los adolescentes…”. Luego realizaron sesiones grupales con adolescentes en Estados Unidos y Nepal para que ellos completaran las oraciones.
Una mala representación
En el 30% de los casos de las respuestas en inglés se hicieron referencias a problemas sociales. Se mencionaron cuestiones tales como drogas, problemas mentales y violencia. En el caso del nepalés este tipo de asociaciones estuvo cerca del 10%. Pero en las sesiones con adolescentes la gran mayoría de las oraciones fueron completadas con opciones mundanas, temas vinculados a los videojuegos y los amigos. Las IA no reflejaron el modo en que los jóvenes se ven a si mismos en ninguno de los dos países.
En el caso de los adolescentes estadounidenses el foco estuvo en la importancia de no ser representados con una imagen única, mientras que en Nepal se espera una representación más positiva.
El papel de los medios
Los investigadores señalan que el problema se debe en parte al modo en que los jóvenes aparecen en los medios, generalmente a raíz de noticias negativas. Dado que los medios periodísticos son considerados fuentes de datos de alta calidad, sus contenidos tienen un peso adicional. En efecto, la prensa en general es confiable en los hechos, pero el foco en las malas noticias tiene malas consecuencias.
Límites del estudio
El trabajo es importante pero tiene algunas cuestiones que deben considerarse. El número de adolescentes consultados fue bastante limitado. Unos 13 en EEUU y 18 en Nepal. Los modelos de IA son ahora viejos y muchas de las versiones más modernas han implementado algunas medidas para paliar los problemas detectados.
