MITRE es una corporación sin fines de lucro dedicada al interés público que opera centros de investigación y desarrollo (I+D) financiados por el gobierno de los Estados Unidos. Su misión es resolver problemas para un mundo más seguro, uniendo a comunidades para desarrollar una ciberseguridad más efectiva.
Probablemente su herramienta más conocida es MITRE ATT&CK, una base de conocimientos global y accesible que clasifica y describe ciberataques e intrusiones. Se utiliza para modelar, detectar, prevenir y combatir ciberamenazas basándose en el comportamiento conocido de los ciberdelincuentes.
Además, MITRE trabaja en una amplia gama de proyectos. El último es la iniciativa AI Incident Sharing que, desarrollada en colaboración con más de 15 empresas, tiene como objetivo aumentar el conocimiento sobre las amenazas y defensas que involucran sistemas habilitados para IA.
AI Incident Sharing es parte de MITRE’s ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems), una base de conocimientos que cataloga y describe las tácticas y técnicas que se utilizan para atacar sistemas basados en IA. En otras palabras, es como un mapa de los ataques que pueden sufrir nuestros sistemas de IA y cómo funcionan
Explican desde MITRE que el proyecto ha agregado varios nuevos estudios de casos centrados en la IA generativa y técnicas de ataque a la base de conocimiento pública de ATLAS, así como nuevos métodos para mitigar los ataques a los sistemas habilitados para IA. MITRE había colaborado previamente con Microsoft para comenzar a aumentar el enfoque de la base de conocimiento de ATLAS en la IA generativa con actualizaciones publicadas en noviembre de 2023. Este esfuerzo continúa manteniendo a ATLAS representativo de las últimas amenazas demostradas a los sistemas de IA en la naturaleza.
