El despliegue de modelos de inteligencia artificial en infraestructuras controladas por los propios clientes plantea un nuevo problema de seguridad: cómo proteger los pesos del modelo una vez que abandonan los sistemas de su desarrollador. Estos pesos son los valores numéricos de los parámetros que el modelo ha aprendido durante su entrenamiento y determinan, en buena medida, su funcionamiento. De ahí que constituyan uno de los activos más valiosos para sus desarrolladores.
Weight Custody Manifest (WCM) intenta dar respuesta a esta cuestión mediante una especificación abierta que condiciona el acceso a esos pesos a que el modelo se ejecute en un entorno previamente autorizado. El proyecto forma parte de AgenTrust, un ecosistema centrado en desarrollar mecanismos de confianza y gobernanza para sistemas de IA y que reúne distintas iniciativas relacionadas con la identidad de los agentes, sus interacciones con herramientas o la generación de evidencias sobre su ejecución.
La propuesta responde a un escenario cada vez más habitual. Empresas y organismos quieren ejecutar modelos avanzados en sus propios centros de datos, entornos aislados o nubes soberanas para mantener el control sobre sus datos y cumplir determinados requisitos regulatorios. Para el proveedor del modelo, sin embargo, esto supone permitir que uno de sus principales activos de propiedad intelectual opere fuera de sus propios sistemas.
WCM plantea mantener los pesos cifrados y liberar la clave de descifrado únicamente cuando la infraestructura de destino pueda demostrar criptográficamente que cumple las condiciones establecidas por el propietario del modelo.
Del control de los datos al control del modelo
El planteamiento amplía el foco de las tecnologías destinadas a proteger la ejecución de cargas de IA. Si buena parte de los esfuerzos se han dirigido a proteger los datos y las cargas de trabajo del cliente, WCM introduce la perspectiva contraria: proteger también el modelo frente a quien controla la infraestructura donde se ejecuta.
La autorización puede ser temporal y revocarse si cambian las condiciones del entorno. El sistema contempla además conservar evidencias de las decisiones de acceso y mantener la trazabilidad de modelos derivados.
Este enfoque puede aplicarse en infraestructuras empresariales y entornos air-gapped, así como en escenarios regulados en los que resulte necesario acreditar las condiciones bajo las que se ha utilizado un determinado modelo.
Una propuesta todavía en desarrollo
Weight Custody Manifest se encuentra todavía en una fase temprana. El proyecto está en versión pre-1.0 y sus responsables advierten de que se trata de un diseño en revisión que aún no debe considerarse preparado para entornos de producción.
La implementación de referencia incluye un SDK para Python y 91 pruebas de conformidad.
