La seguridad de los sistemas basados en inteligencia artificial se está convirtiendo en uno de los grandes retos del sector. En este contexto, OpenAI ha anunciado la adquisición de Promptfoo, una startup especializada en pruebas de seguridad y evaluación de aplicaciones basadas en modelos de lenguaje, con el objetivo de reforzar las capacidades de seguridad de su plataforma para agentes de IA empresariales.
La tecnología de Promptfoo se integrará en OpenAI Frontier, la plataforma de la compañía diseñada para construir y operar “AI coworkers” o agentes inteligentes capaces de ejecutar tareas en entornos corporativos. Con esta operación, OpenAI busca incorporar capacidades de evaluación, pruebas de seguridad y cumplimiento normativo dentro del ciclo de desarrollo de estas aplicaciones.
Seguridad y gobernanza para los agentes de IA
El auge de los agentes autónomos —capaces de interactuar con datos empresariales, herramientas internas o servicios externos— abre nuevas oportunidades de productividad, pero también nuevos riesgos. Entre ellos destacan los ataques de prompt injection, fugas de datos, uso indebido de herramientas o comportamientos fuera de las políticas establecidas.
La propuesta de Promptfoo se centra en detectar este tipo de riesgos antes de que los sistemas se desplieguen en producción. Según explica OpenAI, la integración de su tecnología permitirá incorporar pruebas automatizadas de seguridad y simulaciones de red teaming directamente dentro de la plataforma Frontier.
“Promptfoo aporta una profunda experiencia en la evaluación, seguridad y pruebas de sistemas de IA a escala empresarial”, afirma Srinivas Narayanan, CTO de aplicaciones B2B de OpenAI, quien destaca que estas capacidades ayudarán a desplegar aplicaciones de IA “seguras y fiables”.
De proyecto open source a plataforma empresarial
Fundada en 2024 por Ian Webster y Michael D’Angelo, Promptfoo comenzó como un framework open source para evaluar prompts y comportamientos de modelos de lenguaje y evolucionó hacia una plataforma para probar aplicaciones basadas en IA generativa.
Su tecnología permite definir escenarios de prueba, ejecutar prompts adversariales y evaluar las respuestas del sistema frente a criterios de seguridad o comportamiento esperado. Estas pruebas pueden integrarse en flujos de desarrollo o procesos de despliegue automático.
La compañía asegura que sus herramientas ya son utilizadas por más del 25 % de las empresas del Fortune 500 y que su CLI open source se ha convertido en una referencia para evaluar aplicaciones basadas en LLM.
Integrar la seguridad en el desarrollo de la IA
Uno de los objetivos de la integración con OpenAI Frontier es llevar la seguridad al propio proceso de desarrollo de los agentes de IA. De este modo, las organizaciones podrán evaluar el comportamiento de los agentes, detectar riesgos antes del despliegue y mantener registros que faciliten el cumplimiento de requisitos de gobernanza.
La operación refleja una tendencia cada vez más visible en el mercado: la necesidad de incorporar herramientas específicas para evaluar y asegurar aplicaciones basadas en inteligencia artificial.
Aunque OpenAI no ha revelado el importe de la operación, Promptfoo había recaudado más de 23 millones de dólares desde su fundación y contaba con inversores como Insight Partners o Andreessen Horowitz. Con esta adquisición, OpenAI busca reforzar su posicionamiento en el mercado empresarial, donde la seguridad y la gobernanza de la IA se están convirtiendo en factores clave para su adopción.
