随着 AI 应用持续扩大,支撑训练、推理、数据处理和模型服务的基础设施也在快速增长。真正的挑战不只是增加服务器数量,而是让计算、存储、网络和运维资源在需求变化时保持高利用率,同时控制成本、能耗与交付复杂度。 这意味着基础设施建设需要从“堆更多容量”转向“根据需求精确配置容量”。 AI 工作负载通常具有明显差异:模型训练可能持续数小时甚至数天,推理服务则...
Dropbox 的 Riviera 并不是为生成式 AI 临时搭建的一条新管道,而是一个经过近十年迭代的通用内容处理平台。它长期承担产品中的内容转换工作,如今又需要面对 AI 带来的新需求:解析文档结构、切分上下文、生成向量表示,并持续追踪模型与提示词版本。 来源摘要没有披露 Riviera 的内部 API 或实现细节,因此下面不复刻其架构,而是分析这...