La firma de seguridad SlashNext advierte de la existencia de WormGPT, una herramienta de IA Generativa que se vende a los ciberdelincuentes como un arma poderosa para lanzar ataques de compromiso de correo electrónico (BEC).
Daniel Kelley, quien trabajó con el equipo de SlashNext en la investigación, asegura a través de un post que se está detectando una inquietante tendencia entre los ciberdelincuentes: cómo se ofrecen ‘jailbreaks’ para interfaces como ChatGPT. Estos jailbrakes están diseñados para manipular interfaces y generar resultados que podrían implicar “la divulgación de información confidencial, la producción de contenido inapropiado o incluso la ejecución de código dañino”, asegura Kelley, añadiendo que la proliferación de tales prácticas “subraya los crecientes desafíos para mantener la seguridad de la IA frente a determinados ciberdelincuentes”.
Y mientras desde SlashNext descubren WormGPT, otra empresa ha creado PoisonGPT, una herramienta de inteligencia artificial generativa maliciosa para probar cómo se puede usar la tecnología para difundir intencionalmente noticias falsas en línea.
