El encuentro internacional sobre el desarrollo de inteligencia artificial de París ha finalizado. El resultado parece no haber dejado a nadie demasiado conforme. Estados Unidos ha criticado el exceso de regulación en Europa y desde el viejo continente la crítica parece estar dirigida a la lentitud con la que se están impulsando las normativas.
Un país de genios en un centro de datos
Anthropic, la desarrolladora de Claude, ha publicado una reflexión interesante al respecto. Coincide con lo señalado por las autoridades en que la tecnología debe desarrollarse con responsabilidad buscando el beneficio para la humanidad. Pero apunta que muchos riesgos de las IA se acercan rápidamente, el trabajo debe acelerarse.
La compañía estima que para 2026 o 2027, y seguramente antes de 2030, las posibilidades de los sistemas de inteligencia artificial serán similares a los de un nuevo estado poblado por personas muy inteligentes. Un país de genios en un centro de datos.
Aspectos a considerar
Anthropic cree que hay 3 aspectos que deben tener prioridad. El rol de las democracias, la seguridad y el impacto económico.
En el texto se señala que es necesario que las sociedades democráticas lideren el desarrollo de las IA, y que los países autoritarios no lo usen para establecer un dominio militar global. No se menciona a China y a DeepSeek solo porque casi no es necesario.
Debe prestarse mayor atención a los temas de seguridad. Las IA avanzadas implican varios riesgos. Las IA de propósito general son un elemento a seguir, dado que pueden contribuir a escenarios de pérdida de control. Anthropic también ha comentado que si los modelos no son entrenados con cuidado pueden engañar a sus usuarios y perseguir sus objetivos a través de métodos no deseados. Además de establecer planes de seguridad, las empresas deben mantener una política de transparencia. Esa política solo puede imponerse desde las autoridades reguladoras.
Hace poco les mostramos un trabajo de esta misma empresa sobre la adopción de las IA en el mundo laboral. La intención de dicho trabajo es monitorear el impacto de la tecnología en la economía de un país y con algo de suerte planificar forma de paliar el efecto disruptivo que sin dudas posee.
