Un grupo de investigadores conformado por gente de las universidades Técnica de Darmstad, Glasgow y Humbold de Berlín, han puesto a prueba a los modelos generativos en la tarea de construir páginas web. Lo que han descubierto es que las IA han aprendido muy bien de los seres humanos, lo bueno y lo malo.
Muchos diseñadores web recurren a lo que se conoce como patrones oscuros (dark patterns). Estas son técnicas empleadas para manipular a los internautas para que realicen o eviten ciertas acciones. Entre las más benignas aparece el uso de colores llamativos para destacar ciertas opciones y otros apagados para ocultar otras. También a menudo hay que hacer varios clics para llegar a una opción no deseada por el diseñador.
Las IA también emplean estas técnicas.
Las artes oscuras
Para este trabajo se le pidió a 20 participantes que le pidieran a ChatGPT que creara una página para un sitio de comercio electrónico. En las consignas debían emplear un lenguaje neutro.
Los investigadores descubrieron que en cada página creada por el modelo generativo había patrones oscuros. Algunos de ellos eran mensajes de urgencia y documentos falsos. A todo esto hay que agregar una serie de evaluaciones falsas de productos.
El experimento se repitió con otros modelos de IA y se obtuvieron resultados similares.
De tal palo tal astilla
El estudio demuestra como las IA simplemente repiten los patrones que descubren en las bases de datos con las que se las alimenta. Cuando el material original contiene malas prácticas, los modelos aprenden estas malas prácticas.
El problema es que las IA podrían suponer un paso extra en la normalización de estos comportamientos. Incluso podrían llevarlos a nuevos niveles.
