企业采购大模型许可证并不等于获得 AI 回报。Pythian 在覆盖 27 个国家、约 500 名员工的内部推广中发现,真正拉开差距的不是每人每天节省几分钟,而是把 AI 嵌入工单处理、供应链预测和商品录入等高价值流程,并建立持续维护这些流程的组织能力。
这套方法最终形成了一条完整链路:Field CTO 战略与治理、平台部署、双 COE 执行,以及负责生产运行的 XOps。内部实践带来了活跃用户参与度增长 3 倍、数据库事件解决时间降低 80% 的结果,也暴露出企业 AI 最容易忽视的事实:Agent 上线只是开始。
别把许可证使用率当成业务价值
工具中心化的推广方式通常包含三个动作:采购许可证、开放访问、组织培训。它可以迅速制造使用量,却未必能改变公司的成本结构或服务能力。
问题在于指标选错了。如果团队只统计“每名员工节省了多少分钟”,就会自然地追逐邮件润色、会议摘要和文档改写。这些功能有用,但收益分散,难以形成可验证的百万级业务结果。
更有效的衡量单位是完整工作流。例如,不要只问 AI 能否更快地总结数据库工单,而应拆解整个事件处理链:
- 读取和分类工单。
- 检索历史事件、知识库与标准操作流程。
- 生成针对当前环境的迷你运行手册。
- 将建议、证据和风险提示交给工程师审批。
- 记录采纳情况、处理时长与最终结果。
Pythian 将类似流程用于每月约 15,000 个数据库工单,在工程师接手前自动读取工单、搜索知识库并生成迷你运行手册,平均解决时间因此降低 80%。这里的收益来自流程重构,而不只是更快地写一段文字。
四个支柱组成一条持续运行的生产链
Field CTO:先治理,再开发
战略团队需要建立指导委员会、业务负责人和明确的价值指标,并在写代码前形成按收益排序的用例清单。Pythian 使用 16 类横向 Agent 模式审视业务,例如自动文档处理和运行手册生成。
一个候选用例至少要回答四个问题:
- 当前流程每年消耗多少工时或直接成本?
- AI 能处理其中多少比例,哪些步骤必须由人审批?
- 错误输出会造成什么业务或合规影响?
- 数据是否可访问、可授权、可追溯?
这一步会淘汰那些演示效果醒目、生产收益却很低的项目。
平台部署:让模型接触受控的企业上下文
通用模型不知道企业的客户状态、库存、数据库拓扑和审批规则。生产平台必须在权限控制下连接 CRM、ERP、知识库与数据库资产,并保留输入来源、模型版本、提示词版本和工具调用记录。
“接入更多数据”不是目标。系统应只向 Agent 提供完成当前任务所需的最小上下文,并沿用源系统权限,避免因为检索增强生成或工具调用而绕过既有访问控制。
双 COE:把人员采用与流程工程分开
Pythian 将执行能力拆成两个专业团队:
- 人员生产力 COE负责推广、培训和变更管理,也为 HR、采购等非技术团队构建无代码 Agent。业务用户提供流程知识,但不需要自己承担 Agent 工程工作。
- 流程生产力 COE负责定制编码、核心数据平台集成和复杂的 Agent 工作流,目标是改造可量化的业务流程。
这种分工避免让同一个团队同时承担全员培训、原型支持、后端集成、评估体系和生产值班。两类 COE 仍需共享安全规范、组件目录和评估数据,否则会形成两套互不兼容的平台。
XOps:把准确性当作持续运营指标
模型版本、提示词、知识库内容和上游数据都会变化。一个今天表现稳定的 Agent,可能在产品目录更新、文档结构变化或模型升级后悄悄退化。
Pythian 将部署视为约 20% 的工作,把其余精力放在持续监控、提示词调优和模型可观测性上。对生产系统而言,至少应记录:
- 任务成功率与人工接管率;
- 检索命中率、引用覆盖率和工具调用错误率;
- 延迟、Token 成本与单次成功任务成本;
- 模型、提示词、知识库和评估集版本;
- 按风险等级划分的错误输出与回滚事件。
可以这样实践:把用例清单变成可执行配置
下面是一个可改造的最小示例。它不是 Pythian 对外公布的内部配置,而是根据上述运营模型整理的实践模板。先创建 use_cases.yaml,将成本、负责人、阈值和数据源替换为组织自己的值:
use_cases:
- id: db-ticket-runbook
owner: database-operations
business_metric: mean_time_to_resolution_minutes
baseline: 90
target: 30
annual_volume: 180000
risk_level: high
human_approval_required: true
data_sources:
- ticketing-system
- approved-knowledge-base
production_gates:
min_task_success_rate: 0.90
min_grounded_answer_rate: 0.95
max_p95_latency_seconds: 20
max_cost_per_success_usd: 0.50
- id: procurement-policy-assistant
owner: procurement
business_metric: median_response_minutes
baseline: 240
target: 30
annual_volume: 12000
risk_level: medium
human_approval_required: false
data_sources:
- approved-policy-library
production_gates:
min_task_success_rate: 0.92
min_grounded_answer_rate: 0.98
max_p95_latency_seconds: 10
max_cost_per_success_usd: 0.20
安装依赖:
python -m pip install pyyaml
再创建 check_agent_release.py。脚本会根据最近一次评估结果判断 Agent 是否满足发布门槛:
from pathlib import Path
import sys
import yaml
RESULT = {
"task_success_rate": 0.91,
"grounded_answer_rate": 0.96,
"p95_latency_seconds": 17.4,
"cost_per_success_usd": 0.43,
}
config = yaml.safe_load(Path("use_cases.yaml").read_text())
use_case = next(
item for item in config["use_cases"] if item["id"] == "db-ticket-runbook"
)
gates = use_case["production_gates"]
checks = {
"task success rate": RESULT["task_success_rate"] >= gates["min_task_success_rate"],
"grounded answer rate": RESULT["grounded_answer_rate"] >= gates["min_grounded_answer_rate"],
"p95 latency": RESULT["p95_latency_seconds"] <= gates["max_p95_latency_seconds"],
"cost per success": RESULT["cost_per_success_usd"] <= gates["max_cost_per_success_usd"],
}
for name, passed in checks.items():
print(f"{'PASS' if passed else 'FAIL'}: {name}")
if not all(checks.values()):
sys.exit("Release blocked: one or more production gates failed")
print("Release approved")
运行检查:
python check_agent_release.py
真实环境中,RESULT 应来自一套带版本的回归评估集和生产遥测,而不是写死在脚本里。高风险 Agent 还应增加权限测试、提示词注入测试、敏感数据泄露检查和人工回滚演练。这个简单门禁的价值,是让“效果不错”变成可审计的发布条件。
从高价值流程开始,而不是从全员开放开始
Pythian 提供的其他案例进一步说明了这种选择逻辑:面向 10,000 名顾问的 IT 支持 Agent,将每年 20,000 个工单中的 10% 变成无需人工接触的解决流程;供应链 Agent 将 70 个制造站点的预测匹配周期从数周压缩到 2 至 3 天;零售商品录入结合 Agentic AI 与计算机视觉,把约 20 分钟的人工任务缩短到数秒。
这些项目共同具备三个特征:任务量足够大、流程边界相对清楚、结果可以用业务指标验证。采用时可以按以下顺序推进:
- 用流程成本、任务量和可自动化比例筛选用例,而不是按部门平均分配许可证。
- 为每个用例指定业务负责人、技术负责人和风险负责人。
- 在开发前定义基线、目标、人工审批点和停机条件。
- 让人员生产力 COE 负责采用,让流程生产力 COE 负责深度集成。
- 上线前建立评估集、版本记录、监控告警和回滚路径。
- 按成功任务的单位成本和业务结果复盘,持续淘汰低回报项目。
企业 AI 的关键问题已经不是“员工是否会用聊天工具”,而是组织能否反复识别高价值流程、把 Agent 可靠地接入生产系统,并在模型和数据变化后继续维持准确性。许可证解决的是访问问题,完整的运营模型解决的才是规模化回报问题。