El pasado 25 de Abril la policía china detuvo a un hombre acusado de publicar un artículo falso. Lo más llamativo de este caso es que el texto habría sido generado utilizando ChatGPT. El detenido es acusado de uso indebido de herramientas basadas en tecnología de inteligencia artificial.
La captura
Durante el mes de Abril un artículo comenzó a circular en China. En el se hablaba de un accidente en el que un tren había matado varias personas.
Las autoridades comenzaron a investigar. Descubrieron que el texto había sido publicado en 21 cuentas de la plataforma de blogs Baijiahao. En total, unas 15 mil personas habían visto el artículo.
Tiempo después se identificó el origen de las publicaciones. Un hombre con el apellido Hong fue señalado como el responsable. Su casa fue registrada y se encontró evidencia de sus acciones en dispositivos informáticos.
El uso de la IA
Según las autoridades policiales el detenido habría usado la inteligencia artificial para generar variaciones del mismo artículo. De esta manera lograba evitar que el sistema de seguridad de Baijiahao detectara la duplicación de los textos e impidiera la publicación.
La policía apunta que el objetivo final era obtener una ganancia monetaria.
Entusiasmo sospechoso
China ha implementado leyes para evitar la generación de desinformación. Entre ellas está la exigencia de que los artículos generados por IA estén marcados como tales.
Sin embargo, más allá de la emergencia de la nueva tecnología, es importante recordar que el régimen chino ejerce una fuerte censura sobre los medios de comunicación. A menudo todo lo que no le gusta al gobierno es calificado como desinformación.
Por tal motivo es muy probable que la amenaza de las IA se convierta en una de tantas justificaciones para mantener el control. Una manera de decirle a muchos países que la acusan de censura que en realidad tienen el mismo problema.
