面向智能体企业的平台工程:统一管理应用、资源与 AI Agent

2026-07-21 32 预计阅读时间: 1 分钟
来源: cncf.io AI 摘要 Original link

Disclaimer: This article is an AI-assisted summary. Read it together with the original source when precision matters. The summary may omit context, version differences, or edge cases and is not official documentation.

预计阅读时间:8 分钟

云原生时代的平台工程,最初解决的是 Kubernetes、微服务、GitOps 和分布式架构带来的交付复杂度。随着 AI Agent 进入企业应用,平台面对的对象不再只有容器、数据库和流水线,还包括模型、提示词、工具权限、知识源与运行时策略。平台工程正在从“提供基础设施自助服务”演变为“管理应用、资源和智能体的统一控制面”。

平台管理对象正在扩张

传统内部开发者平台通常围绕几类资源展开:代码仓库、构建流水线、Kubernetes 工作负载、数据库、消息队列、密钥和可观测性配置。开发团队通过服务目录或模板申请资源,平台团队负责把组织规范固化到自动化流程中。

Agent 引入了新的依赖关系。一个业务智能体可能同时需要:

  • 一个或多个模型,以及明确的版本、区域和成本限制;
  • 可调用的内部 API、数据库查询工具或工单系统;
  • 提示词、评测数据集和知识库索引;
  • 身份凭证、审批规则和最小权限策略;
  • 对输入、工具调用、模型输出和费用的追踪能力。

这意味着 Agent 不能只被当作部署在 Pod 中的一段普通代码。容器状态正常,并不代表智能体的回答可靠;接口返回 200,也不代表它调用工具时遵守了业务权限。平台需要同时管理确定性的基础设施状态与带有概率性的模型行为。

把 Agent 纳入平台控制面

一个可落地的方向,是为 Agent 定义声明式契约。开发者描述智能体需要什么模型、工具和运行策略,平台控制器再负责创建底层 Deployment、ServiceAccount、Secret 引用、网络策略与观测配置。

下面是一个可以改造的示例。这里的 Agent 是示意性自定义资源,并非来源摘要声明的标准 API;实际使用前需要由平台团队实现对应 CRD 和控制器。

apiVersion: platform.example.com/v1alpha1
kind: Agent
metadata:
  name: incident-assistant
  namespace: operations
spec:
  image: registry.example.com/agents/incident-assistant:1.4.2
  model:
    provider: approved-model-gateway
    name: reasoning-medium
    maxTokens: 2048
    monthlyBudgetUSD: 500
  tools:
    - name: read-metrics
      permission: read-only
    - name: create-ticket
      permission: require-approval
  knowledge:
    indexes:
      - operations-runbooks
  runtime:
    replicas: 2
    serviceAccountName: incident-assistant
  policy:
    redactSecrets: true
    retainTracesDays: 14
    allowedNamespaces:
      - operations

保存为 agent.yaml 后,可以这样提交并检查状态:

kubectl apply -f agent.yaml
kubectl get agent incident-assistant -n operations
kubectl describe agent incident-assistant -n operations

一个成熟的控制器还应把业务状态写入 status.conditions,例如 ModelReadyToolsAuthorizedEvaluationPassedDeploymentAvailable。这样,GitOps 系统看到的不只是 YAML 已经同步,还能判断 Agent 是否真正具备上线条件。

平台护栏必须覆盖模型行为

对普通应用,平台护栏通常集中在镜像签名、资源限额、网络边界和发布审批。Agent 还需要增加三层控制。

工具边界:每个工具应有独立身份和权限,读取指标与修改生产配置不能共享同一凭证。高风险操作应进入审批流程,而不是依赖提示词中的一句“执行前请确认”。

模型与数据边界:平台应限制可用模型、数据驻留区域和允许进入提示词的数据类型。日志与追踪系统需要脱敏,避免把密钥、客户数据或完整对话直接写入普通应用日志。

质量与成本边界:延迟、令牌消耗和调用费用只是运行指标,回答正确率、工具选择准确率和拒答表现同样需要评测。由于模型行为可能随模型版本、提示词和知识库内容变化,评测应进入发布流程。

可以这样实践一个最小发布门禁。下面的命令假设仓库中已有可执行的评测脚本,并要求关键场景通过率不低于 90%:

python -m agent_eval \
  --agent incident-assistant \
  --dataset tests/incidents.jsonl \
  --min-pass-rate 0.90 \
  --report build/evaluation.json

kubectl apply -f agent.yaml
kubectl rollout status deployment/incident-assistant -n operations --timeout=180s

评测数据集应覆盖正常请求、越权诱导、提示词注入、工具故障和知识缺失,而不能只准备几条理想问答。涉及生产变更的 Agent,还应保留人工审批和快速停用开关。

平台团队如何开始

不必立即建设一个包揽所有模型和框架的庞大平台。更稳妥的顺序是先选择一个业务边界清晰的 Agent,把模型网关、身份、工具授权、追踪和评测串成一条可重复的交付路径,再抽取服务模板和策略。

落地时可以检查以下事项:

  • 应用、基础设施资源和 Agent 是否进入同一服务目录,并有明确负责人;
  • 模型、提示词、工具定义和评测集是否能够版本化与回滚;
  • Agent 是否使用最小权限身份,高风险工具是否要求审批;
  • 平台是否同时观察基础设施指标、模型质量、工具调用与成本;
  • GitOps 同步成功之外,是否还有评测通过和策略合规等就绪条件;
  • 是否定义停用 Agent、撤销凭证和回滚模型版本的应急流程。

面向智能体企业的平台工程,重点不是给现有平台简单增加一个“AI”入口,而是把 Agent 变成可声明、可审计、可评测、可回滚的受管对象。只有应用、云资源和模型行为共享一致的交付与治理机制,企业才能在扩大 Agent 使用范围时控制权限、成本和生产风险。


相关推荐