La evolución de la inteligencia artificial generativa no solo está transformando la productividad empresarial, sino también las tácticas de los ciberdelincuentes. Investigadores de Proofpoint han detectado un creciente interés en foros clandestinos por herramientas diseñadas para explotar aplicaciones y agentes impulsados por IA mediante técnicas de inyección indirecta de prompts, una amenaza que podría convertirse en uno de los principales vectores de ataque de la próxima generación.
Según la compañía de ciberseguridad, en estos entornos ya se promocionan servicios capaces de insertar instrucciones ocultas en correos electrónicos, documentos PDF, invitaciones de calendario o anuncios maliciosos. El objetivo es que dichas instrucciones sean interpretadas por agentes inteligentes o aplicaciones basadas en modelos de lenguaje (LLM), alterando su comportamiento sin que los usuarios sean conscientes de ello.
Un riesgo emergente para los entornos de IA
Aunque estas técnicas aún se encuentran en una fase temprana de desarrollo, los expertos advierten de que representan un claro indicio de cómo los atacantes se están preparando para aprovechar la creciente adopción empresarial de herramientas de IA. La preocupación aumenta a medida que las organizaciones despliegan asistentes virtuales, sistemas automatizados de análisis documental y agentes capaces de interactuar con múltiples fuentes de información.
Los investigadores señalan que el uso de soluciones basadas en modelos de lenguaje ya es una realidad dentro de muchas cadenas de ataque. Los ciberdelincuentes emplean estas tecnologías para generar contenido malicioso a gran escala, automatizar procesos y aumentar tanto la velocidad como la sofisticación de sus campañas.
En el ámbito de la inyección de prompts, la modalidad indirecta destaca por su capacidad para aprovechar fuentes externas de información. Este tipo de ataque se produce cuando un modelo de IA procesa contenidos procedentes de páginas web, documentos o archivos aparentemente legítimos que contienen instrucciones ocultas. Al interpretar esos mensajes encubiertos, el sistema puede ejecutar acciones no previstas o modificar sus respuestas de forma indebida.
Entre los escenarios analizados por los especialistas figura la inserción de prompts invisibles dentro del código fuente de una página web, de manera que sean detectados por agentes automatizados, pero permanezcan ocultos para los visitantes. También se han observado técnicas que aprovechan archivos adjuntos enviados por correo electrónico, incorporando instrucciones destinadas específicamente a agentes encargados de analizar o resumir documentos.
Otra práctica consiste en ocultar texto mediante el uso de colores que lo hacen imperceptible para el usuario, como caracteres blancos sobre fondos blancos. De esta forma, un modelo de IA puede leer y procesar las instrucciones mientras que el contenido pasa desapercibido para las personas.
Proofpoint también ha identificado herramientas capaces de generar invitaciones de calendario que incluyen prompts maliciosos camuflados como puntos del orden del día o notas informativas. Si un asistente de IA analiza posteriormente esa convocatoria para elaborar un resumen, podría interpretar y ejecutar dichas instrucciones ocultas.
Además, los investigadores alertan sobre la posibilidad de insertar prompts en anuncios maliciosos cargados dinámicamente en sitios web. En estos casos, un agente de IA que visite la página para recopilar información podría procesar el contenido oculto y convertirse en víctima de la manipulación.
Anticiparse a la amenaza
A pesar de que todavía no existe evidencia de una explotación masiva de estas técnicas en entornos reales, los expertos consideran que la transición desde la investigación teórica hacia ataques prácticos es solo cuestión de tiempo. Por ello, recomiendan a las organizaciones adoptar una postura proactiva, reforzando la seguridad de sus aplicaciones de IA y estableciendo mecanismos específicos para detectar y bloquear intentos de inyección de prompts.
La aparición de este tipo de herramientas en mercados clandestinos confirma que los ciberdelincuentes ya están diseñando estrategias para explotar el ecosistema de la inteligencia artificial. A medida que los agentes autónomos ganen presencia en los procesos empresariales, la protección frente a estas amenazas emergentes se convertirá en un elemento clave de las estrategias de ciberseguridad.
