En el marco del Foro de Seguridad de Aspen, se ha anunciado la creación de la Coalition for Secure AI, o CoSAI. Esta iniciativa de código abierto, impulsada por el organismo de estándares globales OASIS, tiene como objetivo brindar a profesionales y desarrolladores las herramientas y la orientación necesarias para crear sistemas de IA seguros desde el principio.
CoSAI aspira a establecer un ecosistema colaborativo donde se comparta conocimiento en forma de metodologías open-source, marcos estandarizados y herramientas prácticas. Para ello, reúne a un amplio espectro de actores relevantes, incluyendo líderes de la industria, académicos y expertos en la materia, con el fin de abordar la fragmentación actual en el ámbito de la seguridad de la IA.
Entre los principales patrocinadores fundadores de CoSAI se encuentran Google, IBM, Intel, Microsoft, NVIDIA y PayPal. A ellos se suman otros como Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI y Wiz.
La coalición se lanza con dos objetivos principales. El primero es desarrollar herramientas y orientación técnica que ayuden a las organizaciones a proteger sus aplicaciones de IA. El segundo objetivo es crear un ecosistema donde las empresas puedan compartir las mejores prácticas y tecnologías de ciberseguridad relacionadas con la IA.
La iniciativa busca fomentar la confianza y la seguridad en el uso y la implementación de la IA desarrollando medidas de seguridad integrales que aborden tanto los riesgos clásicos como los únicos de los sistemas de IA. La creación de CoSAI responde a una necesidad urgente: garantizar que la IA se desarrolle y utilice de manera responsable y segura. La iniciativa representa un paso crucial para construir un futuro donde la IA impulse el progreso sin poner en riesgo la seguridad y el bienestar de la sociedad.
CoSAI está lanzando tres líneas de trabajo o iniciativas de código abierto para avanzar en esos objetivos. Cada proyecto aborda un subconjunto diferente de las tareas involucradas en la seguridad de las aplicaciones de IA.
Según CoSAI, la primera iniciativa está diseñada para ayudar a los equipos de software a escanear sus cargas de trabajo de aprendizaje automático en busca de riesgos de ciberseguridad. Con ese fin, el consorcio desarrollará una taxonomía de vulnerabilidades comunes y formas de abordarlas. Los miembros de CoSAI también crearán un cuadro de mando de ciberseguridad diseñado para ayudar a los desarrolladores a monitorear los sistemas de IA en busca de vulnerabilidades e informar cualquier problema que encuentren a otras partes interesadas.
El segundo proyecto inaugural busca facilitar la tarea de mitigar los riesgos de ciberseguridad de la IA con el objetivo de simplificar el proceso de identificación de inversiones y técnicas de mitigación para abordar el impacto de seguridad del uso de la IA. La tercera iniciativa se centra en abordar los riesgos de la cadena de suministro de software.
CoSAI tiene previsto lanzar más iniciativas de ciberseguridad en el futuro que estarán supervisadas por un comité directivo técnico compuesto por expertos en inteligencia artificial del sector privado y el mundo académico.
