标签

Azure

用 Azure Cosmos DB 构建 AI 原生应用:向量检索与智能记忆的实战路径

来源: azure.microsoft.com 59
当团队把大模型接入业务时,最常碰到的瓶颈不是算力,而是数据检索与状态持久化。Cosmos Conf 2026 传出的信号很明确:AI 正在重塑应用开发,而 Azure Cosmos DB 正在从传统的 NoSQL 数据库演化为 AI 原生架构的核心基础设施。团队不再只是把数据库当作存 JSON 的仓库,而是利用它的全局分布、低延迟读写和新增的向量检索能...

本地优先推理:让80%的文档零API成本完成提取

来源: infoq.com 56
处理4700份工程图纸PDF,API费用砍掉75%,处理时间缩短55%——这不是靠更便宜的模型,而是靠一个更聪明的路由策略:先把能确定性提取的文档留在本地处理,只把边缘情况交给云端大模型。Obinna Iheanachor 把这个实践总结为"Local-First AI Inference"架构模式,核心思路简单但效果显著。 文档处理场景里,大量内容是...