Es un momento especialmente intenso para cualquier CISO de una organización que opera en la Unión Europea. No solo tiene que hacer frente a los próximos plazos de aplicación del Reglamento Europeo de IA (AI Act), cuyos objetivos parecen cambiar constantemente, sino que ahora también debe adaptarse a los nuevos recursos anunciados en el Plan de Acción de la UE sobre Ciberseguridad e Inteligencia Artificial. Que la seguridad de la IA reciba tanta atención es, sin duda, una buena noticia. Sin embargo, podría decirse que los equipos están centrando sus esfuerzos en los objetivos equivocados. Se ha asumido que, si la IA de una organización supera los estándares de cumplimiento y obtiene buenos resultados en estos nuevos entornos de pruebas seguros (sandboxes), entonces es segura. Pero, como ya hemos aprendido con regulaciones anteriores en materia de ciberseguridad, cumplir la normativa no equivale a estar protegido desde un punto de vista operativo; ni mucho menos.
En este caso, el elemento que tanto los reguladores como las organizaciones han pasado por alto hasta ahora (a pesar de tenerlo delante de sus ojos) son los datos. Cumplir con los requisitos regulatorios y superar las pruebas en un sandbox de IA solo garantiza modelos técnicamente seguros. En el momento en que esos modelos se alimentan con datos redundantes, obsoletos o triviales (ROT, por sus siglas en inglés), todas esas pruebas dejan de tener valor.
Mucha actividad, pero poco impacto
Las últimas semanas han sido especialmente convulsas para la regulación europea de la IA. Primero, vimos cómo se revisaban los plazos del Reglamento Europeo de IA. En concreto, el principal plazo de cumplimiento para los sistemas de IA desplegados en entornos de alto riesgo pasó de agosto de 2026 a diciembre de 2027, debido principalmente a que los estándares técnicos necesarios para evaluar el cumplimiento todavía no estaban listos.
Pocas semanas después de anunciarse este aplazamiento, la Unión Europea publicó su Plan de Acción sobre Ciberseguridad e Inteligencia Artificial, en parte para cubrir ese vacío en materia de evaluación. En lugar de introducir nuevas obligaciones legales, el plan promete acceso a nuevas plataformas seguras de pruebas, marcos de orientación y herramientas de evaluación previas al lanzamiento, diseñadas para garantizar que la IA avanzada se utilice de forma segura y conforme a normativas como el Reglamento Europeo de IA o la Directiva NIS2.
Todo ello contribuirá, sin duda, a desarrollar modelos de IA más seguros, pero solo representa una parte del problema. Los equipos de seguridad dedicarán innumerables horas a aislar código y recopilar las evidencias necesarias para obtener los valiosos certificados de cumplimiento. Sin embargo, al hacerlo, corren el riesgo de olvidar la otra cara de la IA. Se puede diseñar una herramienta segura por diseño y plenamente conforme con la normativa, pero, si se utiliza de forma incorrecta, seguirá siendo capaz de incumplir la regulación y provocar graves problemas.
Si tenemos en cuenta que, en una empresa media, las identidades no humanas y los agentes autónomos ya superan a los empleados en una proporción de 82 a 1, deberían sonar las alarmas. El riesgo operativo ya no depende únicamente de los errores humanos, sino también de errores que se producen a velocidad de máquina. Si un usuario comete un fallo, normalmente alguien lo detectará antes de que tenga consecuencias graves. En cambio, con modelos autónomos, unos datos de mala calidad pueden corromper silenciosamente incluso el modelo más seguro, alterando sus resultados sin activar las alarmas habituales. Todo ello, además, en sistemas que cumplen técnicamente con la normativa.
El cumplimiento sigue sin ser sinónimo de seguridad
Mientras toda la atención se centra en los propios modelos de IA, los datos de las organizaciones han quedado en un segundo plano. Y, cuando se habla de ellos, el debate suele centrarse en su seguridad, en lugar de en su calidad, lo que agrava aún más el problema.
Actualmente, cerca del 80 % de los datos empresariales se almacenan en formatos no estructurados repletos de archivos ROT. Esto no ha ocurrido de la noche a la mañana, sino que es el resultado de décadas de acumulación en infraestructuras heredadas y almacenamiento en la nube. Y constituye un veneno lento para cualquier modelo de IA. Por muy seguro que sea desde el punto de vista técnico y por muy buenos resultados que haya obtenido en los sandboxes europeos, si se alimenta con datos no estructurados contaminados por información redundante, obsoleta o irrelevante, acabará generando respuestas erróneas, tomando decisiones sin sentido, produciendo análisis sesgados y vulnerando el cumplimiento normativo al trabajar con datos desactualizados o registros duplicados.
Revisar los cimientos antes de construir la casa
Eso no significa que las organizaciones deban ignorar las exigencias regulatorias para centrarse únicamente en los datos. La clave está en encontrar el equilibrio entre ambas prioridades: avanzar en las pruebas y certificaciones de los modelos mientras se moderniza la infraestructura de datos. Esto será cada vez más importante a medida que el Reglamento Europeo de IA entre plenamente en vigor durante los próximos años, ya que obligará a las organizaciones a rastrear, documentar y verificar el origen tanto de los conjuntos de datos de entrenamiento como del contenido generado.
Las organizaciones no solo deben realizar una auditoría exhaustiva y clasificar todo su patrimonio de datos, sino también eliminar los datos ROT para crear una base limpia sobre la que trabajen los modelos de IA. Este paso será esencial para abandonar las auditorías de cumplimiento puntuales y evolucionar hacia un seguimiento continuo de la procedencia de los datos y de la clasificación de los registros, requisitos indispensables para operar con una IA realmente segura. Estas acciones repercuten directamente en los propios modelos, permitiendo desarrollar sistemas que sean conformes tanto desde el punto de vista técnico como práctico.
Además, más allá de los retos regulatorios y operativos actuales, transformar hoy la infraestructura de datos también generará beneficios a largo plazo. A medida que avancemos hacia un entorno cada vez más autónomo y los agentes inteligentes se integren en los flujos de trabajo, disponer de una visión precisa de la capa de datos será fundamental para aislar y revertir rápidamente entradas erróneas con el menor impacto posible. En lugar de detener toda la operación, los equipos podrán actuar sobre registros concretos para corregir errores puntuales. Quienes se adelanten hoy a este desafío serán también quienes sufran menos interrupciones en el futuro.
Avanzar sin olvidar mirar hacia atrás… o mejor dicho, hacia abajo
Por supuesto, las empresas dedican todos los recursos necesarios a cumplir los plazos de cumplimiento normativo de la UE y sacar el máximo partido a las capacidades prometidas de los entornos de pruebas, pero no deben descuidar los datos que hay detrás de sus modelos. Deben plantearse: “¿es seguro nuestro modelo de IA?» y, a continuación, añade “¿son los datos que alimentan nuestro modelo verificados, precisos y limpios?”.
Porque un certificado de cumplimiento normativo de la UE o de pruebas no es más que un trozo de papel costoso si luego el propio modelo se alimenta con datos obsoletos o corruptos. Estos entornos de pruebas de cumplimiento pueden parecer idóneos, pero la verdadera seguridad de la IA no se consigue a través de ellos; se construye mediante el trabajo continuo, aunque menos emocionante, de mantener un flujo de datos limpio. Puede que no sea glamuroso, pero es eficaz.
Andre Troskie, EMEA Field CISO, Veeam Software
