Entre todos los temores que ha despertado el avance de la inteligencia artificial, su capacidad para crear registros falsos es uno de los más preocupantes. Pueden ser videos, imágenes o simplemente audios en los que una persona aparezca diciendo o haciendo algo que en realidad nunca ha hecho. Con la velocidad en la que se distribuyen los contenidos cualquier aclaración puede llegar demasiado tarde, e incluso no alcanzar a cubrir todo el daño producido.
Este parece ser el caso de Eric Eiswert, un director de escuela en el estado de Maryland, Estados Unidos. En enero una grabación con su voz que lo mostraba realizando comentarios racistas llegó a tres profesores de la escuela. El material se volvió viral. Tuvo un gran impacto entre los empleados del colegio y la comunidad en general. Eiswert señaló que en su momento que la grabación era falsa. Pero sus dichos no fueron suficientes, el director fue puesto en suspensión administrativa.
La investigación, curiosidad por las IA
La policía rastreo la dirección de mail desde la que se había enviado al audio a un servidor que estaba registrado al nombre de la abuela del profesor de educación física Dazhon Darien. Una de las tres personas que habían recibido el audio en primera instancia. Un equipo forense del FBI descubrió rastros de manipulación por inteligencia artificial.
La investigación determinó que un tiempo antes de que apareciera el audio Darien había utilizado las computadoras del colegio para acceder a herramientas de OpenAI y Bing Chat. Incluso el día anterior.
Mala relación
Dazhon Darien mantenía una mala relación con el director. La disputa estaba relacionada con una serie de objetivos que no habían sido cumplidos y la posibilidad de que el contrato del profesor no fuera renovado el próximo semestre. Eiswert también había iniciado una investigación sobre un posible mal manejo de los fondos escolares. Unos USD 1916 que en teoría Darien había entregado a un asistente que nunca trabajó para la escuela.
Darien fue arrestado y acusado de perturbar las actividades escolares. Otro cargos levantados en su contra, pero no relacionados de forma directa con la falsificación, fueron robo, venganza contra un testigo y acoso.
