Microsoft ha anunciado su AI Bug Bounty Program, un nuevo programa de recompensas por fallos de seguridad en la de IA de la compañía con premios de hasta 15.000 dólares. Este nuevo programa de recompensas se centra en los siguientes productos e integraciones:
- Experiencias de Bing impulsadas por IA en bing.com en el navegador (se admiten todos los proveedores principales, incluidos Bing Chat, Bing Chat for Enterprise y Bing Image Creator)
- Integración de Bing impulsada por IA en Microsoft Edge (Windows), incluido Bing Chat for Enterprise
- Integración de Bing con tecnología de IA en Microsoft Start (iOS y Android)
- Integración de Bing con tecnología de IA en la aplicación móvil de Skype (iOS y Android).
Microsoft dice que está buscando informes que describan vulnerabilidades de manipulación de inferencias, manipulación de modelos y divulgación de información inferencial. También aceptará informes sobre errores y cadenas de vulnerabilidad que influyen o modifican el comportamiento del chat de Bing, rompan las protecciones de la memoria de conversaciones cruzadas de Bing, revelen el funcionamiento y las indicaciones internas de Bing y eludan los límites de sesión del modo de chat de Bing.
Para ser elegibles las vulnerabilidades deben cumplir determinados criterios, como identificar una vulnerabilidad en Bing con tecnología de inteligencia artificial que Microsoft no haya informado previamente ni conocido de otro modo; dicha vulnerabilidad debe ser de gravedad Crítica o Importante según lo define la Clasificación de gravedad de vulnerabilidad de Microsoft para sistemas de IA y reproducible en la última versión completamente parcheada del producto o servicio; que incluya pasos claros, concisos y reproducibles, ya sea por escrito o en formato de video; y proporcione a los ingenieros de Microsoft la información necesaria para reproducir, comprender y solucionar rápidamente el problema.
