模块 9Agent 安全与治理

数据安全与合规

先识别 Agent 扩大的数据面

  • 用户输入、附件和身份
  • 企业文档、数据库和 Tool 返回
  • Prompt、模型输入输出和缓存
  • Memory、Trace、评测集、Artifact 和反馈数据
  • 派生摘要、Embedding 和标签同样是数据资产

每次处理绑定用途与最小化

  • 完成当前任务真正需要哪些字段
  • 模型、Tool 和子 Agent 分别看到最小切片
  • 日志/评测/训练是不同二次用途
  • 默认不把生产交互永久保存为训练数据

分类决定允许的处理路径

  • 公开、内部、机密、受限/敏感
  • PII、凭据、健康/财务等特殊类别
  • 按字段而非只按文档整体分类
  • 自动检测需要人工复核和漏检处置

逐跳检查数据去向

模型 Provider

  • 地域、保留、训练使用和加密

内部/第三方 Tool

  • 身份、字段、日志和下游传播

Memory/RAG/Trace/Artifact

  • 租户隔离、密钥和访问审计
  • 开发、标注、运营和审批者的最小访问

删除要覆盖所有派生副本

  • 按用途设不同保留期
  • 会话、Memory、索引、Embedding、缓存、Trace、评测与备份
  • Legal Hold 与用户删除请求的冲突流程
  • 删除完成的可验证记录

数据保护贯穿静态、传输与使用中

  • TLS、存储加密和密钥轮换
  • 字段级脱敏、Tokenization 和 DLP
  • RBAC/ABAC、租户隔离和 Break-glass
  • 机密不进入 Prompt、日志、错误和客户端

第三方与变更需要持续治理

  • 供应商数据条款、子处理方和事件通知
  • 模型/区域/功能切换触发再评估
  • 跨境、行业和企业政策约束
  • 定期访问审查、删除演练和数据泄露响应