模块 1模型原理与 Agent 基础

Agent 系统边界

先判断问题，不先选择 Agent

从业务结果定义完成

  • 目标对象、交付物与可验收状态
  • 允许的时间、成本与错误预算

定位不确定性来源

  • 输入是否开放
  • 路径是否可枚举
  • 环境是否动态变化
  • 结果能否低成本验证
  • 区分“模型能回答”与“系统能可靠完成任务”

Chatbot、Workflow 与 Agent 的连续谱

Chatbot：响应而不拥有行动闭环

  • 对话上下文
  • 内容生成
  • 外部状态通常由用户推进

Workflow：控制流由工程代码拥有

  • 预定义节点和分支
  • 模型作为局部能力
  • 确定性重试与补偿

Agent：运行时允许动态选择下一步

  • 观察环境
  • 选择工具或委派
  • 根据结果重规划

Hybrid：生产系统的常见默认

  • 确定性骨架控制高风险步骤
  • Agent 处理开放判断
  • 人工节点承接不可自动化责任

Agentic Loop 的最小成立条件

  • 目标与当前状态必须可表示
  • 行动空间必须受控且结果可观察
  • 观察结果必须能够改变下一步决策
  • 完成、失败、等待与取消必须可终止

自主性不是能力标签，而是授权设计

从建议到受约束自治

  • 只读分析与建议
  • 用户逐步确认
  • 策略内自动执行
  • 高风险操作强制审批

四类预算共同限制自治

  • 工具与数据权限
  • 时间与步骤预算
  • Token 与费用预算
  • 可逆性与影响范围

责任不能委托给模型

  • 业务 Owner
  • 系统 Owner
  • 审批者
  • 审计与事故处置主体

Agent 选型的正反判断

适合 Agent 的组合信号

  • 目标清楚但路径开放
  • 需要跨多个工具协调
  • 中间结果可检查并纠偏
  • 收益足以覆盖运行成本

明确拒绝 Agent 的场景

  • 固定规则已能完整表达
  • 错误不可逆且无法前置审批
  • 事实源缺失或无法验证
  • 端到端延迟和成本不允许

从 Workflow 渐进引入 Agent

  • 先把模型限制在单节点
  • 再开放候选动作选择
  • 用评测和审计决定是否扩大权限

最早出现的失控模式

  • 目标漂移、循环和假完成
  • 错误观察被后续步骤放大
  • 工具越权、重复副作用与责任空洞
  • 把流畅回答误判为任务成功

把概念落成可评审的系统边界

架构决策应回答

  • 为何不是纯 Workflow
  • 自治级别如何确定
  • 模型、代码和人工分别拥有什么控制权

最小验收证据

  • 成功与失败状态定义
  • 一条正常 Trace 与一条受控失败 Trace
  • 停止、审批和降级路径
  • 未消除的残余风险