标签

LLM

用 ES|QL 查 OpenTelemetry Traces：揪出 LLM 延迟、Token 成本和 GPU 饱和的根因

来源: my.oschina.net 36
大模型上线后，"慢"和"贵"是最常见的两个抱怨。但慢在哪、贵在哪——是 prompt 太长？是推理排队？还是 GPU 已经跑满了？传统监控只告诉你 P99 延迟升高，却不告诉你为什么。ES|QL 配合 OpenTelemetry traces，能让你从一条慢请求一路追到具体的 token 计数、模型调用和 GPU 利用率，拿到根因而不是症状。 假设你的...
# AI # LLM # 全栈
阅读全文

微软推出 Intelligent Terminal 0.1：Windows Terminal 的 Agent 实验分支

来源: oschina.net 34
终端工具正在从"命令输入框"演变为"交互式工作台"。微软最新发布的 Intelligent Terminal 0.1 是一个信号——它基于 Windows Terminal 开出了一个实验性分支，把原生 Agent 能力直接嵌进了终端窗口。这意味着终端不再只是被动等待你敲命令，而是可以主动理解意图、辅助操作。 Intelligent Terminal ...
# AI # LLM # 全栈
阅读全文

pg_stat_statements：你以为的查询商店，其实是一张计数器哈希表

来源: postgr.es 43
大概是 PostgreSQL 生态里最常用的扩展之一。它随 contrib 一起发布，开启成本几乎为零，大多数人的第一反应就是——"数据库到底在干什么？"打开它看一眼，心里就有底了。 但如果你是从其他数据库过来的，可能会期待它像一个真正的 Query Store：记录每条查询的执行历史、保留计划演进、能按时间窗口回溯。它不是。 一旦你深度依赖它，就会发...
# AI # Go # LLM
阅读全文

改变业务的不是 AI 模型，而是跑它的那套系统

来源: blogs.microsoft.com 33
单点能力再强，没有编排、治理和弹性伸缩的底座，AI 也只是实验室里的 demo。微软正在把 Azure 打造成一个覆盖全栈的开放 Agent 平台——多模型接入、每一层可替换、每一环可观测。这才是真正能把 AI 变成业务生产力的东西。 很多团队的第一步是选模型：GPT-4o、Claude、Gemini，然后围绕它写 prompt、做微调。这在原型阶段没...
# AI # Azure # LLM
阅读全文

Microsoft Discovery 正式发布：构建与治理 Agentic AI 工作流的一站式平台

来源: azure.microsoft.com 38
在今年的 Microsoft Build 上，Microsoft Discovery 宣布正式商用（GA），同时推出了 Microsoft Discovery App 的预览版。对于正在把 AI Agent 从原型推向生产环境的团队来说，这个消息值得关注——它不是又一个模型 API，而是专门针对 agentic AI 工作流的构建与治理 的完整平台。 ...
# AI # Azure # Go
阅读全文

用 Microsoft Fabric 和 Azure 数据库搭建 Agentic 应用：统一数据与 AI 的实战路径

来源: azure.microsoft.com 39
Agentic 应用正在从"问大模型一个问题"进化到"让 AI 自主规划、调用工具、读写数据并完成多步任务"。但 Agent 要真正可靠地运转，离不开一个能同时支撑分析推理和实时操作的数据底座。Microsoft Build 2026 把这个底座的名字说得很清楚——Microsoft Fabric + Microsoft Databases，一个统一的...
# AI # Azure # LLM
阅读全文

Azure Cobalt 200 Arm虚拟机开启早期预览：为智能体AI工作负载提速50%

来源: azure.microsoft.com 42
智能体（Agentic AI）正在重塑应用架构——从单次问答走向多步推理、工具调用和并行分支。这类工作负载对计算密度和并发能力提出了新要求。微软刚刚推出了基于Arm架构的 Azure Cobalt 200 虚拟机早期访问预览，明确指向 Linux 环境下的智能体 AI 场景，并宣称相比前代/同类实例带来了 50% 的性能提升。 智能体工作负载和传统的深...
# AI # Azure # LLM
阅读全文

给 AI Agent 上锁：开发团队可落地的安全实践

来源: docker.com 47
45% 的组织在确保 Agent 所用工具的安全性和企业级可用性上遇到了困难——这个数字来自 State of Agentic AI 报告，它揭示了一个现实问题：Agent 正以比安全实践成熟更快的速度冲进生产环境。 团队并非缺乏安全意识，而是缺乏针对 Agent 这种新执行主体的防护框架。传统应用的安全边界是 API 网关和身份认证，而 Agent ...
# AI # Docker # LLM
阅读全文

Foundry IQ：给智能代理装上统一知识层，告别数据拼图

来源: devblogs.microsoft.com 37
企业里做 AI Agent，最头疼的不是模型本身，而是"知识从哪来"。内部文档散落在 SharePoint、SQL Server、Cosmos DB；外部数据要从网页、API、第三方库拉取。每次新建一个 Agent，都要重新搭一套检索管线——索引、向量化、权限同步、缓存……重复劳动堆成山，答案质量还参差不齐。 Microsoft Foundry IQ ...
# AI # Azure # LLM
阅读全文

用 Amazon Bedrock AgentCore 搭建高精度 AI 代码审查 Agent——Baz 的实战拆解

来源: aws.amazon.com 41
代码审查是工程团队最耗时又最不可省略的环节。Baz 团队面对的问题是：Spec Review（规格审查）需要逐条比对需求文档与代码实现，人工做这件事既慢又容易漏项。他们用 Amazon Bedrock 搭配新发布的 AgentCore 框架，构建了一个 Spec Review Agent，把审查准确率拉到了可投产的水平。这篇文章拆解他们的架构选择、实现...
# AI # AWS # LLM
阅读全文