4.8 万美元自建 GPU 服务器，这笔账到底怎么算

#!/usr/bin/env python3
"""
cloud_vs_selfhost.py — 云租 GPU vs 自建 GPU 成本对比计算器

用法: python cloud_vs_selfhost.py
按提示输入参数，输出月度成本对比和回本周期。
"""

def calc_selfhost_monthly(
    total_cost: float,
    depreciation_years: float,
    electricity_watts: float,
    electricity_price_per_kwh: float,
    maintenance_monthly: float,
    utilization_ratio: float,
) -> dict:
    """计算自建服务器的月度综合成本"""
    depreciation_monthly = total_cost / (depreciation_years * 12)
    # 电费：按实际利用率计算有效功耗，闲置时功耗约为满载的 30%
    avg_watts = electricity_watts * (
        utilization_ratio + 0.3 * (1 - utilization_ratio)
    )
    electricity_monthly = (
        avg_watts / 1000 * 24 * 30 * electricity_price_per_kwh
    )
    total_monthly = (
        depreciation_monthly + electricity_monthly + maintenance_monthly
    )
    # 闲置部分的价值浪费
    idle_waste = depreciation_monthly * (1 - utilization_ratio)
    return {
        "折旧/月": round(depreciation_monthly, 2),
        "电费/月": round(electricity_monthly, 2),
        "维护/月": round(maintenance_monthly, 2),
        "总成本/月": round(total_monthly, 2),
        "闲置浪费/月": round(idle_waste, 2),
    }


def calc_cloud_monthly(
    hourly_price_per_gpu: float,
    num_gpus: float,
    daily_hours: float,
) -> dict:
    """计算云租 GPU 的月度成本"""
    daily_cost = hourly_price_per_gpu * num_gpus * daily_hours
    monthly_cost = daily_cost * 30
    return {"云费用/月": round(monthly_cost, 2)}


def calc_breakeven_months(
    total_cost: float,
    cloud_monthly: float,
    selfhost_monthly_excluding_depreciation: float,
) -> float:
    """计算自建回本周期（月）"""
    monthly_savings = cloud_monthly - selfhost_monthly_excluding_depreciation
    if monthly_savings <= 0:
        return float("inf")  # 永远无法回本
    return round(total_cost / monthly_savings, 1)


def main():
    print("=== GPU 成本对比计算器 ===\n")

    # ── 自建参数 ──
    total_cost = float(input("自建总投入 (USD, 如 48000): ") or "48000")
    depreciation_years = float(input("折旧年限 (年, 如 4): ") or "4")
    electricity_watts = float(input("满载功耗 (W, 如 1800): ") or "1800")
    electricity_price = float(input("电价 (USD/kWh, 如 0.12): ") or "0.12")
    maintenance_monthly = float(input("月度维护费 (USD, 如 50): ") or "50")
    utilization = float(input("GPU 利用率 (0-1, 如 0.7): ") or "0.7")

    # ── 云租参数 ──
    cloud_hourly = float(input("云单卡时价 (USD, 如 1.5): ") or "1.5")
    num_gpus = float(input("GPU 数量 (如 6): ") or "6")
    daily_hours = float(input("日均使用时长 (h, 如 20): ") or "20")

    # ── 计算 ──
    selfhost = calc_selfhost_monthly(
        total_cost, depreciation_years, electricity_watts,
        electricity_price, maintenance_monthly, utilization,
    )
    cloud = calc_cloud_monthly(cloud_hourly, num_gpus, daily_hours)
    breakeven = calc_breakeven_months(
        total_cost,
        cloud["云费用/月"],
        selfhost["电费/月"] + selfhost["维护/月"],
    )

    # ── 输出 ──
    print("\n── 自建月度成本 ──")
    for k, v in selfhost.items():
        print(f"  {k}: ${v}")

    print("\n── 云租月度成本 ──")
    for k, v in cloud.items():
        print(f"  {k}: ${v}")

    print(f"\n── 回本周期: {breakeven} 个月")
    if breakeven <= depreciation_years * 12:
        print("  ✅ 在折旧期内可回本，高利用率下自建更划算")
    else:
        print("  ❌ 折旧期内无法回本，云租或混合方案更合理")


if __name__ == "__main__":
    main()

$ python cloud_vs_selfhost.py
=== GPU 成本对比计算器 ===

自建总投入 (USD, 如 48000): 48000
折旧年限 (年, 如 4): 4
满载功耗 (W, 如 1800): 1800
电价 (USD/kWh, 如 0.12): 0.12
月度维护费 (USD, 如 50): 50
GPU 利用率 (0-1, 如 0.7): 0.7
云单卡时价 (USD, 如 1.5): 1.5
GPU 数量 (如 6): 6
日均使用时长 (h, 如 20): 20

── 自建月度成本 ──
  折旧/月: $1000.0
  电费/月: $136.08
  维护/月: $50.0
  总成本/月: $1186.08
  闲置浪费/月: $300.0

── 云租月度成本 ──
  云费用/月: $5400.0

── 回本周期: 8.7 个月
  ✅ 在折旧期内可回本，高利用率下自建更划算

# 本地构建一次训练镜像
docker build -t my-trainer:latest .

# 本地 grumbl 上跑（6 卡全用）
docker run --gpus all -v /data:/data my-trainer:latest \
    python train.py --config local_6gpu.yaml

# 云上跑大规模实验（用 8×A100 Spot 实例）
# 先推镜像到 Registry
docker tag my-trainer:latest ghcr.io/yourname/my-trainer:latest
docker push ghcr.io/yourname/my-trainer:latest

# 云实例上拉取并运行
docker pull ghcr.io/yourname/my-trainer:latest
docker run --gpus all -v /cloud-data:/data my-trainer:latest \
    python train.py --config cloud_8xA100.yaml