Un agente de IA (inteligencia artificial) es un sistema que usa un modelo de lenguaje para planear y ejecutar tareas por su cuenta con herramientas conectadas, como el correo, los archivos o sistemas internos. Su riesgo principal son los permisos: un agente con acceso amplio puede filtrar datos o hacer cambios si recibe instrucciones maliciosas ocultas (prompt injection) o si nadie revisa sus acciones.
Profundiza este tema en nuestro TecnetBlog: Ciberseguridad agéntica
riesgos agentes de IA, seguridad de agentes de IA, IA agéntica, agentes autónomos, agentes de inteligencia artificial
Términos relacionados
Privacidad desde el diseño
La privacidad desde el diseño (privacy by design) es el principio de incorporar la protección de datos personales desde la concepción de un sistema o producto, no como un ajuste posterior. Implica recolectar solo los datos necesarios, dejar por defecto la opción más privada y definir cifrado y plazos de conservación. El GDPR (Reglamento General de Protección de Datos) lo exige en su artículo 25.
Minimización de datos
La minimización de datos es el principio de privacidad según el cual una organización solo debe recolectar y conservar los datos personales adecuados, pertinentes y limitados a lo necesario para la finalidad declarada. Por ejemplo, un formulario de cotización no necesita la fecha de nacimiento del contacto. Lo recoge el GDPR (Reglamento General de Protección de Datos) y reduce el impacto de una posible brecha.
Seudonimización y anonimización
La seudonimización reemplaza los identificadores de una persona, como su nombre o su número de cliente, por un código, de modo que los datos solo pueden volver a vincularse con ella usando información adicional guardada aparte. La anonimización elimina esa posibilidad de forma irreversible. Por eso los datos seudonimizados siguen siendo datos personales y los anonimizados no. La tokenización es una forma de seudonimización.
Residencia y soberanía de datos
La residencia de datos es la ubicación geográfica donde se almacenan y procesan los datos de una organización, como la región de nube que elige. La soberanía de datos es el principio de que esos datos quedan sujetos a las leyes del país donde se encuentran. Una financiera puede exigir ambas por regulación o por contrato, y debe comprobar dónde guarda sus datos el proveedor.
EIPD (evaluación de impacto en la protección de datos)
La EIPD (evaluación de impacto en la protección de datos) es un análisis previo que mide los riesgos que un tratamiento de datos personales implica para los derechos de las personas y define medidas para reducirlos. El GDPR (Reglamento General de Protección de Datos) la exige en su artículo 35 ante un probable alto riesgo, como el tratamiento a gran escala de datos de salud.
¿Quieres pasar del concepto a tu operación?
Cuéntanos qué necesitas y un ingeniero de TecnetOne te responde.
Hablar con un ingenieroHablar con un ingeniero
Cuéntanos qué necesitas y te respondemos el mismo día hábil.