El Pentágono ha anunciado una nueva serie de principios éticos para regular el uso de la inteligencia artificial en operaciones bélicas y de inteligencia.
Quienes estén a cargo del despliegue de las unidades deberán ejercitar niveles apropiados de evaluación y cuidado.
Además, las decisiones tomadas por los sistemas automáticos deberán ser controlables y rastreables.
Según el lugarteniente general de la fuerza aérea, Jack Shanahan, quien está a cargo del centro de inteligencia artificial del Pentágono, lo dicho implica la posibilidad de retirar las unidades o desactivarlas si en algún momento muestran un comportamiento no deseado.
Criticas y defensa
Las nuevas pautas son el resultado de las recomendaciones realizadas por la junta de Innovación en Defensa, un grupo liderado por Eric Schmidt, quien en su momento fue CEO de Google.
Aunque la intención ha sido bien recibida no han faltado críticas. Uno de los aspectos cuestionados es que la formulación de las normas está sujeta a un amplio nivel de interpretación, dado que el término apropiado puede tener un significado muy diferente según la persona a cargo.
Shanahan ha señalado que los principios están formulados de un modo general para evitar imponer sobre las fuerzas militares de los Estados Unidos restricciones que hayan dejado de tener sentido con el tiempo.
En el mejor de los casos esto supone que las precauciones que se toman para el manejo de un drone, pueden no ser necesarias si el dispositivo mejora y ciertos riesgos desaparecen.
Una colaboración fallida
En 2018 Google terminó su trabajo de colaboración con el Pentágono por la presión de sus empleados. La compañía tenía como objetivo ayudar a desarrollar una IA que permitiera reconocer objetos de una manera más eficiente. El Pentágono había afirmado que la tecnología no sería utilizada para fines ofensivos.
El uso de inteligencia artificial en el campo de batalla ha sido un tema particularmente polémico durante los últimos años. Un aspecto sobre el que todavía se sigue discutiendo es quien debe ser el responsable de las acciones de la IA, dado que además de los comandantes y operarios aparece la figura de los desarrolladores.
