Como tantas otras potencias económicas, Francia ha intentado no quedarse atrás en el desarrollo de los modelos de inteligencia artificial. La compañía más conocida de este país es Mistral AI, que es considerada una de las más fuertes fuera de Estados Unidos. Otros esfuerzos no han sido tan exitosos, el más reciente de ellos ha sido el modelo conocido como Lucie.
Lucie es un desarrollo del Grupo Linagora y el Consorcio OpenLLM France. Es parte de una iniciativa pública destinada a ofrecer una alternativa nacional con un amplio dominio del francés. El lanzamiento de esta nueva inteligencia artificial se produjo el jueves pasado, pero el sábado sus servicios fueron suspendidos.
Mal comportamiento
El problema es que Lucie no solo cometió errores, o alucinó, se comportó de una manera reprobable. Si hubiera sido un ser humano habría tenido muchísimos problemas.
Cuando se le presentaron problemas matemáticos a menudo los resolvió mal. Al multiplicar 5 x (3+2) dio como respuesta 17. Lo dicho parece indicar que resolvió de izquierda a derecha sin manejar correctamente la sintaxis. Aún peor, en ocasiones señaló que no podía encargarse de los problemas porque tenía que mantener la neutralidad.
En un caso se le preguntó por los huevos de vaca. Lucie señaló que los huevos de vaca, también conocidos como huevos de gallina, son huevos comestibles producidos por las vacas.
También le ofreció a los usuarios recetas para que pudieran elaborar metanfetamina.
Quizás nos apuramos
El Grupo Lingora señaló que el problema era que no se habían explicado bien las limitaciones del modelo. Apuntó entonces que Lucie era un proyecto académico que no había sido adaptado para el uso educativo y no se podía usar en producciones. Añadió que era un modelo en bruto, que todavía no había recibido tutoría por parte de los seres humanos. Esta era la razón por la que carecía de buenos modales y ciertas protecciones. Sin embargo, la compañía concedió que quizás había lanzado el modelo antes de que estuviera listo.
“Pensamos incorrectamente que un lanzamiento público de la plataforma de chat de Lucie era posible bajo la idea de apertura y co-construcción de los proyectos de código abierto”. Los desarrolladores señalaron que se habían dejado llevar por el entusiasmo.
