平台投资规则先统一风险与可见性,再沉淀重复出现的生产能力;平台成功以团队采用和业务交付改善衡量,不以控制台菜单数量衡量。
练习定位本文是一份组织演进设计练习。阶段、Scorecard 与迁移波次需要用目标组织的盘点和访谈验证,不代表任何企业已经采用或取得所述结果。

阶段 0:识别 Demo 债务

先建立 Agent Inventory:业务 Owner、技术 Owner、用户、风险等级、Provider、模型、数据域、Tool、身份、生产流量、成本、SLO、Eval、部署和停用路径。无法回答“哪些 Agent 在生产、谁能停写、哪些数据离开组织”就是首要风险,不应先建可视化编排器。

盘点常见债务:密钥散落与 Provider 直连;Prompt/Tool 复制却无版本和 Owner;没有统一 Run ID、Trace、Eval 与发布门禁;身份在链路中丢失;团队各自实现重试和审批;成本无法归因。按业务影响、发生概率和重复投入排序,形成平台问题基线。

Stage 0 的退出证据
产物最低内容未完成的风险
InventoryOwner、用途、数据、Tool、模型、流量与停用影子 Agent 无人负责
债务热图重复、事故、安全、成本与交付阻塞按热点而非证据建平台
基线交付周期、失败、成本、采用与支持负担后续无法证明价值
ADR先解决什么、明确不做什么边界持续膨胀

阶段 1:先统一可见性与接入底线

第一层共享能力通常是 AI Gateway、服务身份、密钥托管、租户/团队配额、成本归因与模型访问策略。它不接管业务 Prompt 或 Workflow,只提供可替换 Provider 入口、能力探测、限流、审计和紧急切断。业务应用继续拥有任务终态。

同时统一 Run ID 与最小 Trace 语义,要求 Tool 契约带 Owner、输入 Schema、权限、风险、版本和幂等策略。每个生产 Agent 至少有代表性 Golden Dataset 和发布检查。OpenTelemetry 的通用语义约定适合作为互操作基线,但 GenAI 字段会演进,因此平台记录 SDK/Convention 版本,避免静默改变看板口径。

NIST AI RMF Govern强调责任、清单、持续复审与安全停用。Stage 1 的治理不是审批一切,而是让高风险能力可发现、可归责、可观测和可关闭。

阶段 2:沉淀生产 Runtime 和 Golden Path

只有多个团队重复实现 Run/Step/Attempt、事件流、Deadline、重试、审批、幂等、恢复和对账时,才抽取共享 Runtime。Golden Path 提供 SDK、模板、参考应用、默认仪表盘、Eval/CI 集成、威胁模型与 Runbook,同时允许业务团队替换模型、Context 和领域 Tool。

平台团队与两个代表性业务团队共建,验证迁移成本和开发体验。平台 SLO 覆盖 Gateway、Runtime、Registry 和 Eval 服务;业务 Agent SLO 仍由领域团队负责。模板生成成功不是采用,团队能在较少支持下完成上线、诊断和回滚才是。

共享责任边界:平台提供生产底座,领域团队拥有业务正确性
平台底座Gateway、身份、Runtime、Trace、Eval。
Golden PathSDK、模板、默认策略与参考应用。
领域实现任务、Prompt、Context、Tool 与 Gold。
联合运营平台 SLO、业务 SLO、事故与演进。

阶段 3:形成自助控制面

当资产数量和团队数使人工接入成为瓶颈,建设模型、Tool、Skill、Prompt 与 Agent Registry,提供版本、Owner、风险、依赖、权限和停用状态。自助控制面让团队配置 Eval、灰度、策略、配额与告警,但高风险例外仍需策略审批和到期复审。

多租户控制面与数据面分离,身份与数据域贯穿检索、Tool 和遥测。策略默认拒绝,平台管理员不能天然读取所有业务 Prompt 与 Trace。控制面每次变更可审计、可回滚,并有兼容检查;Registry 不是静态目录,而是部署与运行时真正校验的来源。

自助不等于无治理
自助动作自动门禁需要人工决策
注册低风险只读 ToolSchema、Owner、权限与契约测试例外网络或敏感数据
升级模型版本能力探测、目标 Eval、成本预算高风险切片退化的接受
灰度 Agent流量、SLO、Trace 与回滚扩大自主写权限
申请配额团队预算与滥用策略超预算且无价值证据

阶段 4:按证据扩展高级能力

Durable Execution 用于确有长等待、恢复和跨发布需求;多 Agent 用于责任可分解且独立上下文能降低耦合的任务;跨协议用于真实互操作;高级 RAG 用于基线无法解决的多跳与领域路由。每项高级能力先列瓶颈、替代方案、运营 Owner、故障面和退出条件。

动态路由和成本优化必须同时守住目标质量切片,区域韧性要演练状态、队列与外部副作用恢复。热点不是投资依据。如果一个共享组件只有一个用户、升级频繁破坏业务且支持成本高,应下沉回领域或缩小接口。

迁移现有 Agent 而非只建新平台

按风险、业务价值、技术差异和 Owner 意愿给 Agent 分波。第一波选择 Owner 清晰、只读或低风险、能代表主流技术栈的系统;避免先迁最复杂或最无关紧要的 Demo。迁移前后用相同 Golden Cases、Trace 与成本口径对比。

先通过 Gateway、Adapter 或 Sidecar 接入身份、观测与配额,再迁 Tool 契约、状态、评测和发布流程。兼容窗口同时保留旧路径与回滚,双写或影子流量验证字段与结果。退出条件包括流量切换、SLO 稳定、Runbook 通过、旧密钥撤销、旧路径停用和资产清单更新。

迁移波次的最小验收
阶段交付物回滚触发
发现依赖、数据、Tool、SLO、Owner 与差异未知副作用或无人负责
接入身份、Gateway、Trace、成本归因关键字段丢失或延迟超预算
替换Runtime/Tool/Eval/发布流程目标切片质量或恢复退化
下线流量归零、凭据撤销、数据处置仍有消费者或审计缺口

组织能力随平台演进

中央平台团队拥有共享服务、Golden Path、平台 SLO 和开发者体验;领域团队拥有业务任务、数据、Tool、Gold、业务 SLO 与风险接受;安全、数据与法务提供底线和例外机制;Enabling 角色通过共建与培训帮助迁移,而不是永久代运营。

RACI 只在真实决策点使用:谁批准新高风险 Tool,谁决定停写,谁响应 Provider 故障,谁处理越权数据,谁接受残余风险。社区、架构评审与事故复盘传播经验,但敏感内容按最小必要共享。平台团队应通过文档、自动化和自助减少中央工单,而不是成为所有 Agent 的审批瓶颈。

每阶段有继续投资的证据

Scorecard 同时看采用、交付、质量运营和经济性:生产用例与活跃团队,首次上线/变更时间,平台与业务 SLO、事故和恢复,单位成功成本、平台支持负担与团队逃逸原因。所有指标按成熟度和风险切片,不用注册数或 API 调用量冒充价值。

阶段评审有四种决定:继续投资、缩小边界、下沉领域或停止。若团队因平台限制而绕过,先分析是缺能力、体验差、迁移成本高,还是集中化本就不合适。NIST AI RMF 的 Manage 结果包括降低、转移、避免或接受风险,平台路线图同样应允许“不要建设”。

分类级 Scorecard 示例口径
问题指标反作弊检查
有人持续使用吗生产活跃团队、重复发布、留存排除一次性 Demo 与强制接入
交付更快吗从批准到首个安全 Pilot 的时间不跳过 Eval、安全和运营门禁
系统更稳吗未知结果、事故、恢复时间、门禁拦截同时看上报完整性
经济合理吗每个验证成功任务的总成本包含人工、失败与平台固定成本

每次阶段复盘保存 ADR、能力地图、迁移清单、SLO、采用访谈和残余风险。不要承诺“全公司统一”,只承诺下一个可验证阶段。

主动提取:为什么 Stage 1 优先 Gateway、身份与 Trace,而不是拖拽式编排器?
前者先解决跨团队可见性、成本、权限与停机底线,且能低侵入迁移既有系统;编排器若没有重复需求和采用证据,容易制造新的锁定与治理盲区。
投资判断:两个团队需要完全不同的 Runtime,但共享模型接入和观测,应统一到什么程度?
统一 Gateway、身份、配额、Trace 语义和资产登记;保留领域 Runtime。平台边界应围绕稳定共性,而非追求单一技术栈。

资料与事实边界

以下以官方文档、标准、论文和原始工程资料为主。厂商 API、价格、限额与模型能力会变化,落地时仍需按目标版本做能力探测和回归。

  1. NIST:AI RMF Core — Inventory、角色、持续测量、风险处置与安全停用
  2. OpenTelemetry:Semantic Conventions 1.44.0 — 截至 2026-08 的跨语言与组件观测互操作语义
  3. SLSA 1.2:Guiding Principles — 集中可信平台、自动验证 Artifact 与显式证明