2026-07-24
来源: pytorch.org
30
ML Kernel 的性能工作，常常被两件事绑住：一是要理解底层硬件的执行模型，二是同一算法换到另一种加速器后，往往又要重写一遍实现。Helion 是面向 PyTorch 的高层 DSL，目标是让开发者以更高层的方式编写性能可移植的 Kernel。现在，Helion 与 Google 合作构建了 TPU 后端，可将 Helion Kernel 编译到 ...
2026-07-24
来源: aws.amazon.com
37
AI Agent 上线后，真正棘手的问题不是“能不能回答”，而是错误能否被稳定复现、自动发现并阻止进入生产环境。Motorway 与 AWS 构建的端到端评估流水线，将错误结果从每 8 次查询约 1 次降到每 50 次约 1 次，同时把问题发现时间从数小时缩短到几分钟。其核心组合是 Strands Agents SDK 与 Amazon Bedrock...
2026-07-24
来源: aws.amazon.com
25
交易前台并不缺数据，真正稀缺的是把分散的数据、制度文档和操作工具快速组织成可执行判断的能力。Jefferies 构建的交易助手没有把大语言模型当作一个独立聊天窗口，而是基于 Strands Agents 编排基础模型与外部工具，并结合 Amazon Bedrock、Amazon Bedrock Knowledge Bases 和模型上下文协议（MCP）...
2026-07-24
来源: aws.amazon.com
20
跨区域分析经常遇到一个矛盾：管理团队希望在同一张图中比较各区域的承运商表现，安全与合规团队却要求数据留在原始 AWS 区域。借助 QuickSight 的联合数据集能力与 Highcharts 自定义可视化，可以把“数据驻留”和“统一展示”拆成两个问题处理，并绕开原生图表在复杂组合图、交互和格式控制方面的限制。 这类方案的关键不是把所有原始记录复制到一...
2026-07-24
来源: aws.amazon.com
24
AI 智能体最棘手的生产事故，往往不会触发传统告警：接口返回 200、延迟正常、模型成功生成内容，最终结果却是错的。Amazon Bedrock AgentCore optimization 关注的正是这类“静默失败”，通过跨会话发现、解释并排序行为失败模式，帮助团队优先修复影响最大的缺陷。 传统服务监控擅长回答这些问题： 请求是否成功返回？ 响应时间...
2026-07-24
来源: aws.amazon.com
36
传统 RAG 检索通常把用户问题编码成一个向量，再用它搜索知识库。这种方式处理单一事实问题很直接，但遇到包含多个约束、比较项或时间范围的复合问题时，一个查询向量很难同时准确表达所有意图。Amazon Bedrock Managed Knowledge Base 的 Agentic Retrieval 针对这一缺口，引入查询规划和流式执行，让检索过程能够...
2026-07-22
来源: aws.amazon.com
27
AI 编程工具已经不只是编辑器里的补全插件。monday.com 将运行在 Amazon Bedrock 上的智能体称为“AI Teammates”，并把它们接入真实的软件交付流程。根据其内部生产数据，每月使用 AI 编程工具的 Builder 已从一年前约一半增长到九成，单个工程师的 PR 吞吐量提升超过 50%。更值得关注的不是工具覆盖率，而是团队...
2026-07-22
来源: pytorch.org
39
2025 年 4 月，PyTorch Foundation 从围绕单一项目运作的基金会演进为多项目基金会。这个变化的重点不只是扩大项目数量，而是为 AI 生命周期中不同领域的开源项目建立更深的协作基础，让创新能够跨越训练、部署、工具链和运维边界。 现代 AI 系统很少只依赖一个训练框架。一个模型进入生产环境，通常会经过数据处理、训练与评估、模型转换、推...
2026-07-22
来源: pytorch.org
31
PyTorch Conference North America 的日程已经上线。10 月 20 日至 21 日，开发者、研究人员和 AI 实践者将在圣何塞聚集，围绕训练与推理、编译器创新、负责任 AI、实际应用以及 PyTorch 生态展开交流。 对于正在把模型从实验环境推向生产系统的团队来说，这份日程的价值不只是了解会议安排，更在于观察 PyTor...
2026-07-22
来源: aws.amazon.com
23
监督微调数据经常只包含“问题—答案”，没有展示如何从输入走到结论。对于需要多步推导的任务，这种数据结构可能让模型学会跳过推理过程，甚至压制原本具备的推理能力。Self-Distilled Reasoning（SDR，自蒸馏推理）提供了一条实用路径：让模型为现有样本生成推理轨迹，再把经过筛选的轨迹加入 SFT 数据。 原文围绕三个环节展开：识别推理抑制问...