Mientras sigue abierto el debate en las organizaciones de cómo integrar los modelos de IA en los procesos productivos de forma eficiente y segura, el foco de atención empieza a centrarse cada vez más en el uso de agentes o robots inteligentes aplicados a funciones y procesos específicos, lo que se denomina IA agéntica. Mientras que la IA generativa se está utilizando para obtener información y recomendaciones para la toma de decisiones, l IA agéntica pretende dar un paso más allá, ya que se pretende que esos agentes autónomos sean capaces de tomar decisiones, con un grado determinado de supervisión.
Retos de seguridad de la IA agéntica
Pero, al igual que sucede con la adopción de la IA generativa, la implementación exitosa de este tipo de agentes basados en IA dependerá de si las organizaciones cuentan con la seguridad, la visibilidad y la infraestructura adecuadas antes de la implementación. Las organizaciones están comenzando a desplegar estos agentes, pero no en todos los casos de se hace de una manera controlada y sistemática con el riesgo de que proliferen agentes que escapen al control de los departamentos de TI, lo que se está denominando “shadow AI” o «agentes de IA en la sombra». Estos agentes desconocidos pueden operar en lugares inesperados, acechando en la sombra y eludiendo los controles de seguridad legítimos.
El uso de este tipo de agentes exige un protocolo de seguridad reforzado. Dado que son capaces de tomar el control y actuar autónomamente en determinadas situaciones, la seguridad de todo el departamento de TI de una organización dependerá de la visibilidad y la supervisión que tenga sobre ellos. Por eso es fundamental contar con una infraestructura de red bien gestionada, con visibilidad para impedir que empleados puedan configuran sin control este tipo de dispositivos.
Por eso, las organizaciones necesitan tratar a los agentes de IA como cualquier otro usuario de la red, con protocolos de monitorización reforzados, y desarrollar políticas claramente definidas para gestionar tanto la actividad de IA autorizada como la no autorizada. Esto hay que hacerlo desde el primer momento, porque un agente de IA fuera de control, una vez se conecta a la red, puede moverse lateralmente dentro de la infraestructura, lo que dificulta el seguimiento de sus movimientos.
Políticas de control para agentes basados en IA basadas en DNS
La clave para tener bajo control los agentes reside en implementar un protocolo que permita rastrear y supervisar qué agentes hay en red y qué actividad están realizando. Esto se puede lograr mediante el seguimiento de consultas DNS únicas. Para ello, es imprescindible que los responsables de TI tengan un inventario de toda la actividad de IA en operación, ya que cuanto más flexible sean la políticas de una organización respecto a los agentes de IA, mayor será la superficie de ataque.
Los beneficios de adoptar la IA agéntica superarán los riesgos si se establecen protocolos claros antes de su implementación. En primer lugar no implementar agentes IA sin un sólido proceso de verificación. A partir de aquí, establecer políticas de uso de la red para estos agentes, a qué recursos de red pueden acceder, desde donde, etc., y esto incluye impedir que departamentos de la organización puedan utilizar agentes sin la supervisión y autorización del departamento de TI. Después es necesario disponer de amplia visibilidad sobre la actividad que desarrollan en red, y finalmente bloquear la actividad no autorizada a nivel de infraestructura. La IA agéntica puede ser una herramienta valiosísima de productividad, pero implementarla de forma segura es una condición indispensable para lograrlo.
Por Juan de la Vara, Senior Major Account Executive, Infoblox
