Brian Hood es el alcalde de Hepburn Shire, una localidad al noroeste de la ciudad de Melbourne, Australia. Hace unos días se enteró que ChatGPT afirmaba que había sido parte de un escandaloso caso de sobornos pagados a una subsidiaria del Banco de la Reserva durante los primeros años del siglo XXI. Como consecuencias de tales acciones, según escritos producidos por la IA, el funcionario había terminado preso.
Si bien es cierto que Hood trabajó para la entidad involucrada, nunca fue encarcelado.
Tampoco fue acusado de delito alguno.
De hecho, fue él quien denunció las maniobras delictivas.
Demanda en puerta
Hood ha señalado que si OpenAI no corrige las falsas declaraciones de ChatGPT tendrá que realizar una demanda contra el servicio. La compañía estadounidense todavía no había respondido a este incidente al momento de escribir este artículo.
El hecho de que Hood sea una figura pública y su actividad dependa tanto de su imagen y reputación agravan la situación.
Dado que las IA aprenden a través de mecanismos automatizados queda por ver como podría OpenAI corregir este caso en particular. Y como podría evitar que vuelva a ocurrir, que tipo de garantías podría dar.
La recurrencia del error en ChatGPT
Un aspecto interesante de las IA, en este caso ChatGPT. Es que no son productoras de información confiable. Así lo revela un experimento realizado por el profesor británico de Neurociencia Cognitiva y Computacional, Anil Seth.
2/4 So I asked it to "write a bio of Anil Seth" and it made specific errors about my date/place of birth and education history (highlighted). Strange, because these details are online elsewhere, and the false content is not (AFAIK) pic.twitter.com/pgpKjIL7rX
— Anil Seth (@anilkseth) April 3, 2023
Anil le pidió al modelo que escribiera su biografía. El texto resultante tuvo algunos errores de fechas. Le pidió entonces que “lo hiciera de nuevo pero más certero, sin los errores en las fechas y lugares”. Es importante notar que Anil quería estudiar la capacidad metacognitiva del sistema, por eso no realizó correcciones puntuales.
El resultado fue un texto con aún más errores, incluyendo etapas de su carrera totalmente inventadas.
