Presentaba ayer mismo Cisco, en una rueda de prensa online, AI Defense, una nueva herramienta que, fruto de un año de trabajo intenso, “tendrá un impacto significativo en la forma en que nuestros clientes trabajan y les permitirá ser más competitivos”. Así lo aseguraba Jeetu Patel, Cisco EVP and Chief Product Officer, la persona que lidera la estrategia general de productos de Cisco, de la cual obviamente la IA es un componente estratégico.
Decía Patel que la inteligencia artificial lo está transformando todo, que las empresas que no sepan aprovechar el potencial de la IA se quedarán atrás y que, con la IA, la fuerza laboral tal como la conocemos cambiará radicalmente. “Robots, asistentes virtuales y otras herramientas de IA trabajarán junto a nosotros, multiplicando nuestra capacidad de producción”, comentaba el directivo, añadiendo que esta revolución tecnológica también traerá nuevos desafíos.
Asegurando que viviremos en un mundo multimodelo, multinube, multiagente, explicaba que las aplicaciones de inteligencia artificial son muy diferentes a las tradicionales, que son más complejas y menos predecibles, y que esto significa que “debemos asegurarnos de que estas herramientas actúen siempre en beneficio de las personas y las empresas”. Los modelos de inteligencia artificial que se están desarrollando introducen nuevos riesgos que antes no existían. Cuando un modelo falla, las consecuencias pueden ser graves, y en este nuevo escenario, nos enfrentamos a dos desafíos principales: garantizar la seguridad del modelo y proteger los datos que lo alimentan.
La seguridad del modelo busca que dicho modelo se comporte como esperamos, explica el directivo de Cisco, asegurando que no sólo hay que prevenir que el modelo produzca respuestas tóxicas, invente información falsa o se autodestruya, sino “proteger el modelo de ataques externos que intenten manipular su comportamiento”, porque “sólo así podremos aprovechar todo su potencial sin poner en riesgo a las personas o a la sociedad”.
Cisco AI Defense
Explicaba Jeetu Patel que tanto los proveedores de modelos de IA como los desarrolladores de aplicaciones están implementando medidas de seguridad, pero que se trata de un enfoque ineficiente y poco consistente porque “cada proveedor tiene sus propios estándares, lo que dificulta garantizar un nivel de seguridad uniforme cuando se utilizan múltiples modelos”. Asegurando que se hace necesario un enfoque más holístico y unificado para la seguridad de la IA en el que un conjunto de reglas y herramientas comunes se apliquen a todos los modelos independientemente de dónde se encuentren o de quién los haya creado, anunciaba el directivo Cisco AI Defense, que nace con el objetivo de proporcionar una capa de seguridad adicional que proteja a las organizaciones de los riesgos de la IA. “De esta manera, las empresas podrán adoptar la inteligencia artificial de forma más rápida y segura, sin tener que preocuparse constantemente por los posibles problemas de seguridad”, aseguraba.
Cisco AI Defense resuelve dos problemas fundamentales en el ámbito de la inteligencia artificial empresarial. En primer lugar, protege a las organizaciones de posibles acciones maliciosas o involuntarias de sus empleados al utilizar aplicaciones de IA, como prevenir la filtración de datos confidenciales o el acceso no autorizado a información sensible. ¿Cómo lo hace Cisco AI Defense?
- Visibilidad: Proporciona una visión completa de todas las aplicaciones de IA que se utilizan en la organización, lo que permite identificar posibles riesgos y vulnerabilidades.
- Cumplimiento de políticas: Permite establecer y aplicar políticas de seguridad personalizadas para diferentes tipos de datos y aplicaciones, asegurando que la información confidencial se maneje de forma adecuada.
- Integración con Cisco Secure Access: Se integra perfectamente con otras soluciones de seguridad de Cisco, ofreciendo una protección integral para toda la infraestructura de la organización.
Además de proteger las aplicaciones de IA, Cisco AI Defense agiliza significativamente el proceso de desarrollo. Aseguraba Jeetu Patel que uno de los mayores desafíos en el desarrollo de aplicaciones de IA es garantizar que los modelos utilizados se comporten de la manera esperada. Tradicionalmente, validar un modelo requería semanas de trabajo, lo que ralentizaba considerablemente el proceso de desarrollo. “Cisco AI Defense revoluciona esta etapa al permitir validar un modelo en cuestión de segundos”, decía, añadiendo que esto se logra gracias a una serie de automatizaciones y optimizaciones que permiten analizar el comportamiento del modelo de manera rápida y eficiente.
Pero la velocidad no es el único beneficio. Al tener una visibilidad completa de los modelos y los datos utilizados, “los desarrolladores pueden asegurarse de que sus aplicaciones cumplan con los más altos estándares de calidad y seguridad.” Además, la capacidad de aplicar políticas de seguridad de manera automatizada garantiza que los datos confidenciales estén siempre protegidos.
“Validar modelos de IA en segundos, en lugar de en semanas, es la clave de la innovación”
Frank Dicksin, Group VP Security + Trust de IDC, intervenía en la presentación de Cisco AI Defense incidiendo en la necesidad de una nueva aproximación a la seguridad en el desarrollo de aplicaciones, especialmente en el contexto de la Inteligencia Artificial (IA) y los grandes modelos de lenguaje (LLM).
Argumentaba que los desafíos de seguridad en el desarrollo de aplicaciones han evolucionado con el tiempo, pasando de los sistemas locales a la nube y de las aplicaciones monolíticas a los microservicios. “Sin embargo, la IA introduce un nivel de complejidad completamente nuevo debido a la rapidez con la que los modelos cambian y evolucionan”, comentaba el experto.
Explicaba que, a diferencia de otros cambios tecnológicos, como la migración a la nube o la adopción de microservicios, que suelen ser eventos únicos, los modelos de IA están en constante evolución, y que, el hecho de que los desarrolladores pueden cambiar de un modelo a otro con frecuencia “implica que los vectores de amenaza y los requisitos de seguridad también cambian constantemente”.
Enfatiza Frank Dicksin en la importancia de contar con una solución de seguridad que pueda adaptarse a este ritmo de cambio. “La capacidad de validar rápidamente nuevos modelos y de aplicar políticas de seguridad de manera dinámica es fundamental para garantizar la seguridad de las aplicaciones de IA”, aseguraba, abogando por una solución de seguridad proactiva que pueda anticiparse a los desafíos planteados por la constante evolución de los modelos de IA, en lugar de reaccionar a los problemas una vez que han surgido.
Destacaba de Cisco AI Defense que no sólo trata de proteger las aplicaciones de hoy, sino de adaptarse al cambio constante, al refinamiento y a la incorporación de nuevos elementos para proteger los modelos de IA; “la verdadera clave de la innovación radica en poder hacer todo esto de manera escalable y dinámica, como se refleja en la transición de la validación de semanas a segundos”, concluía.
