El prompt injection (inyección de instrucciones) es un ataque contra aplicaciones de inteligencia artificial basadas en modelos de lenguaje de gran tamaño (LLM, large language model) que cuela instrucciones maliciosas para que el modelo ignore sus reglas. Puede ser directo o indirecto, oculto en un correo, documento o página web que el asistente procesa, y llevar a filtrar datos o ejecutar acciones no autorizadas.
Profundiza este tema en nuestro TecnetBlog: Copilot y prompt injection: ¿fallas de seguridad o límites de la IA?
inyección de prompts, inyección de instrucciones, prompt injection indirecto, jailbreak de IA, ataques a LLM