Red Hat acelera su apuesta por una inteligencia artificial empresarial segura y confiable con la adquisición de Chatterbox Labs, compañía especializada en pruebas de seguridad y guardrails para modelos de IA y sistemas de IA generativa. La operación refuerza la estrategia de la firma de código abierto para ofrecer una plataforma de IA preparada para entornos productivos, híbridos y a gran escala, en un momento en el que muchas organizaciones están pasando de la experimentación al despliegue real de modelos de IA en procesos críticos .
El movimiento se produce tras un año especialmente activo para Red Hat en este ámbito, marcado por el lanzamiento de Red Hat AI 3 y del Red Hat AI Inference Server, y responde a una preocupación creciente entre CISOs, responsables de datos y equipos de MLOps: cómo garantizar que los modelos no sólo funcionen bien, sino que sean seguros, explicables y gobernables. En este contexto, las capacidades de validación y control de riesgos de la IA empiezan a considerarse un requisito básico, no un complemento.
Según explica Steven Huels, vicepresidente de Ingeniería de IA y Estrategia de Producto de Red Hat, la tecnología de Chatterbox Labs aporta precisamente esa capa crítica de “security for AI” que demanda el mercado, permitiendo integrar la seguridad desde el diseño y no como una medida posterior. El objetivo es claro: facilitar que las empresas ejecuten cualquier modelo, en cualquier infraestructura, pero con garantías de confianza y transparencia.
Fundada en 2011, Chatterbox Labs ha desarrollado una aproximación cuantitativa al riesgo en sistemas de IA, con soluciones capaces de evaluar modelos de forma independiente al proveedor o arquitectura utilizada. Su tecnología permite medir aspectos clave como robustez, equidad o explicabilidad, además de detectar comportamientos no deseados, sesgos o respuestas tóxicas antes de que los modelos entren en producción. Este enfoque resulta especialmente relevante para grandes modelos de lenguaje y para entornos regulados, donde la trazabilidad y la demostración del control del riesgo son cada vez más exigidas.
IA Agentiva cobra fuerza
La adquisición cobra aún más sentido si se observa la evolución hacia IA agentiva, uno de los focos estratégicos de Red Hat. A medida que los agentes de IA ganan autonomía y capacidad de interacción con sistemas empresariales, el impacto potencial de un fallo o de un comportamiento inesperado se multiplica. En este sentido, el trabajo previo de Chatterbox Labs en seguridad de agentes y en el análisis de interacciones asociadas al Model Context Protocol (MCP) encaja con la hoja de ruta de Red Hat, que ya ha incorporado estas capacidades en su ecosistema, incluido el Llama Stack.
Desde Chatterbox Labs, su cofundador y CTO, Stuart Battersby, subraya que la seguridad de la IA no puede convertirse en una “caja negra” propietaria. Integrarse en el ecosistema de código abierto de Red Hat, señala, permitirá llevar métricas de seguridad verificables y auditables a un mayor número de organizaciones, reduciendo el riesgo de dependencia tecnológica y facilitando una adopción responsable de la IA.
