百度 AI 业务收入过半：GPU 云暴涨 184% 背后的基础设施信号

"""
Agent 推理成本估算器
根据多步编排的调用模式，估算单会话和月度推理成本。
替换 price_per_1k_tokens 为你实际使用的云服务定价。
"""

from dataclasses import dataclass

@dataclass
class StepConfig:
    """单步调用配置"""
    name: str
    model: str
    avg_input_tokens: int      # 该步平均输入 token 数
    avg_output_tokens: int     # 该步平均输出 token 数
    calls_per_session: int     # 每个会话中该步被调用的次数

@dataclass
class Pricing:
    """模型定价（每 1000 token，单位：元）"""
    model: str
    input_price: float
    output_price: float

# ---- 替换为你的实际定价 ----
PRICING_TABLE = {
    "ernie-5.1": Pricing("ernie-5.1", input_price=0.012, output_price=0.048),
    "ernie-4.0": Pricing("ernie-4.0", input_price=0.008, output_price=0.032),
    "ernie-lite": Pricing("ernie-lite", input_price=0.002, output_price=0.006),
}

# ---- 定义你的 agent 编排流程 ----
AGENT_STEPS = [
    StepConfig("意图识别", "ernie-lite", avg_input_tokens=200, avg_output_tokens=50, calls_per_session=1),
    StepConfig("知识检索摘要", "ernie-4.0", avg_input_tokens=1500, avg_output_tokens=300, calls_per_session=1),
    StepConfig("工具调用决策", "ernie-4.0", avg_input_tokens=500, avg_output_tokens=100, calls_per_session=2),
    StepConfig("最终回答生成", "ernie-5.1", avg_input_tokens=2000, avg_output_tokens=500, calls_per_session=1),
]

def estimate_session_cost(steps: list[StepConfig], pricing_table: dict) -> float:
    """估算单个会话的推理成本"""
    total = 0.0
    for step in steps:
        p = pricing_table[step.model]
        input_cost = (step.avg_input_tokens / 1000) * p.input_price * step.calls_per_session
        output_cost = (step.avg_output_tokens / 1000) * p.output_price * step.calls_per_session
        step_cost = input_cost + output_cost
        total += step_cost
        print(f"  {step.name} ({step.model}): {step_cost:.4f} 元/会话")
    return total

def estimate_monthly_cost(session_cost: float, daily_sessions: int, days: int = 30) -> float:
    """估算月度推理成本"""
    return session_cost * daily_sessions * days

if __name__ == "__main__":
    print("=== 单会话成本拆解 ===")
    session_cost = estimate_session_cost(AGENT_STEPS, PRICING_TABLE)
    print(f"\n单会话总成本: {session_cost:.4f} 元")

    # ---- 替换为你的日均会话量 ----
    daily_sessions = 5000
    monthly = estimate_monthly_cost(session_cost, daily_sessions)
    print(f"\n=== 月度估算 (日均 {daily_sessions} 会话) ===")
    print(f"月度推理成本: {monthly:.2f} 元 ≈ {monthly/10000:.2f} 万元")

    # GPU 云资源占比粗估（推理成本通常占 GPU 云总成本的 60-70%）
    gpu_cloud_total = monthly / 0.65
    print(f"推算 GPU 云月度总支出: {gpu_cloud_total:.2f} 元 ≈ {gpu_cloud_total/10000:.2f} 万元")

python agent_cost_estimator.py

=== 单会话成本拆解 ===
  意图识别 (ernie-lite): 0.0010 元/会话
  知识检索摘要 (ernie-4.0): 0.0600 元/会话
  工具调用决策 (ernie-4.0): 0.0320 元/会话
  最终回答生成 (ernie-5.1): 0.1200 元/会话

单会话总成本: 0.2130 元

=== 月度估算 (日均 5000 会话) ===
月度推理成本: 31950.00 元 ≈ 3.20 万元
推算 GPU 云月度总支出: 49153.85 元 ≈ 4.92 万元