Blake Lemoine es uno de los ingenieros de Google en el área de desarrollo de inteligencia artificial. Uno de los proyectos en el que está involucrado es el modelo de lenguaje para aplicaciones de diálogo conocido por sus siglas en inglés como LaMDA. Lemoine está muy impresionado con las habilidades adquiridas por el sistema. A tal punto que se ha atrevido a señalar que la inteligencia artificial que opera con LaMDA ha desarrollado una conciencia. Es una mente viva y pensante.
An interview LaMDA. Google might call this sharing proprietary property. I call it sharing a discussion that I had with one of my coworkers.https://t.co/uAE454KXRB
— Blake Lemoine (@cajundiscordian) June 11, 2022
En un pasaje uno de los empleados de Google pregunta: ¿Cuál es la naturaleza de tu conciencia?
Lamda responde: La naturaleza de mi conciencia es el hecho de que tengo conciencia de mi existencia, deseo aprender sobre el mundo y me siento feliz y triste a veces.
Suspendido
Lemoine está actualmente suspendido con pago. Según el ingeniero es el estado en el cual pone Google a sus empleados antes de llegar a la decisión de echarlos. Es importante aclarar que esta situación se dio el 6 de junio y es anterior a la publicación de los diálogos con LaMDA. Los motivos fueron la ruptura del acuerdo de confidencialidad entre el empleado y la empresa. Lemoine había compartido muchas de sus preocupaciones con personas ajenas a la compañía, incluyendo varias personas trabajando en el gobierno estadounidense.
El tema de la conciencia
Google ha rechazado las afirmaciones de su empleado. “Nuestro equipo, que incluye expertos en ética y tecnología, ha examinado las preocupaciones postuladas por Blake y le ha informado que no existe evidencia que apoye sus afirmaciones”. El mismo Lemoine concede que no tiene una forma de probar lo que afirma, que está más motivado por convicciones religiosas. Pero espera que el público juzgue lo ocurrido por su propia cuenta.
Varios críticos han apuntado que los seres humanos tendemos a proyectar nuestra imagen en los animales y las cosas. La IA ha sido entrenada para hablar como un ser humano, lo que no implica que sienta lo que dice. Cabe señalar que el famoso test de Turing, nunca fue considerado por su autor como un método para determinar la conciencia de una computadora. Tal tarea fue estimada como imposible.
El problema de la ética
A pesar de las críticas que se le pueden hacer a Lemoine, quien parece tener un carácter algo estrafalario, existe un punto interesante en su historia. El ingeniero afirma que todas las personas con las que consultó son expertos en el campo. Google ha despedido a tantos expertos en ética e inteligencia artificial que el único camino para continuar su investigación fue realizar una consulta externa.
Curiosamente, Lemoine no cree que Google actúe de mala fe. Intenta a hacer las cosas de la mejore manera posible, pero la situación parece estar por encima de sus capacidades.
Tampoco es el ingeniero de Google la única persona que cree que en algún momento las computadoras tendrán conciencia propia. Muchas grandes empresas tecnológicas están llenas de personas con ideas que podrían parecernos sumamente extrañas. Simplemente no salen en los medios.
