模块 6Agent UX 与生成式 UI

Agent 交互与信任

先帮助用户建立正确心智模型

  • Agent 能访问哪些数据和能力
  • 当前是建议、协助还是受约束自治
  • 结果可能不确定且需要验证
  • 系统边界、费用和预计时间应在行动前可知

自主性应随风险与信任渐进开放

  • 默认只读或预览
  • 用户确认后执行可逆动作
  • 重复低风险任务可授权规则化自动执行
  • 权限扩大必须可查看、撤销和设时限

展示可行动的进度，不展示伪思维链

  • 目标、当前步骤和下一步
  • 已使用的数据源与 Tool
  • 等待、阻塞、失败和重新规划原因
  • 对长任务提供离开后通知和恢复入口

让不确定性与证据一起呈现

  • 区分事实、推断和建议
  • 引用、时间和数据覆盖范围
  • 低置信时请求澄清或提供备选
  • 避免用拟人化语气制造过度信任

纠错成本决定用户是否敢用

  • 允许修改输入、计划、参数和产物
  • 撤销、重做和局部重试
  • 失败时保留已完成工作与明确下一步
  • 用户纠正进入反馈但不自动写成全局记忆

用户随时能暂停、取消和接管

  • 取消的真实语义和无法撤销部分
  • 审批只覆盖具体动作
  • 自动执行范围可视化
  • 紧急停止与事后审计入口

用行为而非满意度单独判断信任

  • 用户能否预测 Agent 下一步
  • 是否在高风险处正确复核
  • 纠错和撤销成功率
  • 过度依赖、频繁中断和放弃任务的信号