Nvidia ha anunciado la creación de la Open Secure AI Alliance, una iniciativa que reúne a más de 40 compañías tecnológicas, fabricantes de ciberseguridad y proveedores de software empresarial con el objetivo de desarrollar herramientas, modelos y técnicas de código abierto para proteger sistemas y agentes de inteligencia artificial. La alianza nace con la misión de “garantizar que los defensores de todo el mundo dispongan de herramientas abiertas de vanguardia en las que puedan confiar y que puedan controlar”, y la intención de acelerar la colaboración entre la industria ante el rápido crecimiento de la IA generativa y la aparición de nuevas amenazas dirigidas contra estos entornos.
Entre los miembros fundadores figuran empresas como Adobe, Cisco, Cloudflare, CrowdStrike, Databricks, Dell Technologies, Hugging Face, IBM, Microsoft, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens y Snowflake, además de organizaciones como la Linux Foundation, sobre cuyo proyecto Akrites y la comunidad OpenSSF se apoyará la nueva iniciativa. Entre los miembros de la Open Secure AI Alliance no figuran desarrolladores de grandes modelos fundacionales como OpenAI, Google o Anthropic
La alianza pretende crear un ecosistema abierto que facilite a las organizaciones auditar, probar y proteger modelos y agentes de IA. Para ello, sus integrantes compartirán herramientas de evaluación, modelos, conjuntos de datos, marcos de pruebas y otras tecnologías destinadas a mejorar la seguridad de estas aplicaciones, además de fomentar la divulgación coordinada de vulnerabilidades y el desarrollo de buenas prácticas comunes.
En el anuncio de la iniciativa, Jensen Huang, fundador y CEO de Nvidia, sostiene que “los atacantes disponen ya de IA de frontera; los defensores necesitan un ecosistema de IA de frontera”. Según el directivo, combinar modelos abiertos y cerrados con la colaboración de la comunidad permitirá responder con mayor rapidez a las amenazas emergentes.
Herramientas compartidas
Como primeras aportaciones, varias compañías pondrán a disposición de la comunidad tecnologías ya desarrolladas. Nvidia liberará NOOA, un framework para observar y analizar el comportamiento de agentes de IA; Microsoft contribuirá con MDASH, una plataforma para evaluar la seguridad de modelos; IBM y Red Hat compartirán Lightwell, orientado a la gestión de parches, mientras que Hugging Face impulsará la adopción de Safetensors como formato seguro para modelos de IA. También HPE aportará tecnologías relacionadas con la identidad de agentes basadas en SPIFFE y SPIRE.
La creación de la Open Secure AI Alliance llega en un momento en el que crecen las preocupaciones por la seguridad de los agentes autónomos y de los modelos fundacionales. Nvidia defiende que el software de código abierto ha sido históricamente un elemento clave para reforzar la ciberseguridad y sostiene que el mismo enfoque puede contribuir a proteger la nueva generación de aplicaciones basadas en IA.
