Las empresas más importantes de la industria de la inteligencia artificial se han unido en la Coalición para la seguridad en las IA. Por sus siglas en inglés la organización se conoce como CoSAI. OpenAI, Google, Microsoft, Nvidia, Amazon, IBM, Paypal e Intel son parte del grupo. También aparecen Anthropic, Cisco, Wiz, Chaiguard y GenLab.
CoSAi se define como un ecosistema abierto dentro del cual se suman esfuerzos para la investigación en seguridad, el establecimiento de estándares de buenas prácticas y la construcción de soluciones de código abierto.
CoSAI, como proyecto, estará liderada por una mesa de gobierno que establecerá su agenda técnica. Además de los expertos de las empresas involucradas, se espera la participación de líderes del universo empresarial, académicos y otras figuras claves de la industria.
CoSAI: Unir lo que estaba fragmentado
Los miembros de la organización sostienen que el mundo está cambiando rápidamente gracias a la aparición de las IA. Y que estas herramientas tienen el potencial para resolver problemas complejos. Para asegurar que los desarrollos sean responsables y confiables, es necesario elaborar y compartir metodologías de seguridad. De esta manera se podrán identificar y mitigar las vulnerabilidades en los sistemas y diseñar opciones más seguras. Actualmente, se advierte, la seguridad en las IA y sus aplicaciones es un esfuerzo fragmentado. Las pautas empleadas son inconsistentes y no están bien conectadas.
Heather Adkins, vice presidente de seguridad en Google, afirmó que CoSAI ayudará a las pequeñas y grandes organizaciones a aprovechar los beneficios de las IA y mitigar sus riesgos.
