El martes varias de las empresas más importantes del universo tecnológico se reunieron en Seul, Corea del Sur, para discutir la seguridad en los sistemas de inteligencia artificial. Entre las empresas más destacadas aparecían Amazon, OpenAI y Microsoft. Pero había representantes de Estados Unidos, Francia, China, Corea del Sur, Reino Unido y Los Emiratos Árabes Unidos. Las empresas se comprometieron a publicar los esquemas de seguridad que detallan como evalúan los desafíos en sus modelos de avanzada y como previenen el mal uso de la tecnología.
En imagen: Como nos imaginamos que se desarrolló el encuentro.
Kill Switch
Entre los mayores peligros que fueron mencionados se encontraban los ataques informáticos automatizadas y la creación de armas biológicas. Una de las herramientas que se utilizaría en estos casos es un interruptor de apagado forzoso (kill switch), que frenaría el desarrollo de los modelos si no fuera posible evitar el peligro de otra manera.
Esta opción ha sido señalada como una respuesta sencilla por varios expertos anteriormente. En particular, se ha remarcado que una interacción a través del hardware sería ideal. Algo así como desenchufar la computadora del mal.
Una cuestión de transparencia
Una cuestión clave a considerar es que cualquier tipo de medida de seguridad, establecida sobre el monitoreo del desarrollo de la IA, es tan efectiva como el nivel de transparencia de las compañías. En teoría la industria se estaría moviendo a un escenario más en sintonía con este requisito.
Los desarrolladores también tomarían en cuenta los consejos de organizaciones confiables dentro del ecosistema, incluyendo las autoridades de los gobiernos locales.
Un marco mínimo
En cierta medida lo conseguido durante este encuentro puede verse como la presentación de unas medidas mínimas de seguridad. Al margen de este compromiso, organismos nacionales y regionales han comenzado a evaluar normativas de control. La más conocida es la de la Unión Europea, que fue aprobada recientemente.
Los encuentros internacionales de las empresas son valiosos para establecer buenas prácticas y compartir posibles soluciones. Pero no son una solución por si mismos. El próximo evento se realizará en Francia en 2025.
