2026-08-28
来源: aws.amazon.com
38
自动语音识别服务常见的成本问题，不是模型无法跑满 GPU，而是单个请求只短暂占用一部分计算资源。为了守住延迟目标，团队往往增加 GPU 实例，结果是显存已经分配、CUDA 上下文已经建立，计算单元却仍有大量空闲。 在 Amazon EC2 GPU 实例上组合 NVIDIA CUDA Multi-Process Service（MPS）与 NVIDIA ...
2026-08-27
来源: pytorch.org
56
PyTorch Ecosystem Working Group 将 Perforated、AReaL、TorchJD、RLinf、Miles、SMG、FiftyOne、TokenSpeed、VisualTorch 和 TorchSurv 纳入 PyTorch Ecosystem Landscape。一次增加 10 个项目，说明围绕 PyTorch 的工...
2026-08-27
来源: aws.amazon.com
39
Agent 应用正在从单一 SDK 走向多框架组合：团队可能用 LangGraph 编排流程，用 LlamaIndex 做检索，也可能选择 OpenAI Agents SDK、Google ADK、Claude Agent SDK 或 Strands Agents。框架选择变多后，评估系统最容易陷入重复建设：每换一个框架，就要重新接入追踪、指标和评分逻...
2026-08-27
来源: aws.amazon.com
35
当企业的 BI 平台使用多年后，问题通常不在于“缺少报表”，而在于报表太多、性能太慢、口径难以统一，业务人员不得不反复依赖数据团队。GoDaddy 将原有 BI 工具迁移到 Amazon Quick，历时两年，最终每年节省 15,000 小时，将仪表板数量减少 50%，渲染时间压缩到 5 秒以内，并把 AI 驱动的自助分析能力开放给全体员工。 这不是一...
2026-08-27
来源: aws.amazon.com
35
让患者通过自然对话预约移动采血服务，看起来只是“语音识别加大模型”。真正进入生产环境后，系统却必须同时处理双向音频流、工具调用、身份验证、预约冲突和等待体验。Natera 基于 Amazon Bedrock AgentCore 构建的自动化语音智能体，将这些问题拆成双 WebSocket 桥接、事件驱动的延迟掩蔽和渐进式信任认证，并在其测试场景中实现了...
2026-08-27
来源: aws.amazon.com
30
Amazon SageMaker Python SDK v3 重新设计了 script mode：训练和部署流程分别围绕统一的 与 组织，而 可以在任务运行时把本地代码同步进指定容器。对于已有自定义训练脚本、又不想每次改一行代码就重新构建 Docker 镜像的团队，这会明显缩短迭代回路。 传统的 bring-your-own-container 流程，...
2026-08-27
来源: aws.amazon.com
42
监督微调的数据准备并不止于清洗格式和删除重复项。进入进阶阶段后，更重要的问题是：现有数据是否足够、下一批数据应该补什么、合成样本是否真的有增益，以及如何加入新能力而不让模型遗忘原有能力。 这些问题不能只靠数据量回答。更可靠的方法是把学习曲线、子集选择、合成与蒸馏数据、数据源混合放进同一个迭代闭环，并始终用独立评测集验证结果。 学习曲线的做法很直接：从训...
2026-08-27
来源: aws.amazon.com
46
监督微调（SFT）的效果上限，往往在训练开始前就已经确定了。模型并不会自动修复含糊的指令、错误的答案、混乱的对话结构或不一致的工具调用格式；它只会尽可能学习数据中反复出现的模式。 因此，数据准备不应被看成把几段文本转换成 JSONL 的机械步骤，而应当包括质量检查、统一格式、明确推理与工具调用结构，以及构造有代表性的训练集和评测集。 高质量 SFT 数...
2026-08-26
来源: aws.amazon.com
34
当 AgentCore 代理和知识库位于不同 AWS 账户时，企业不必复制源数据，也不必把分析型数据迁移到代理所在账户。通过跨账户 IAM 授权，可以让一个账户中的 Amazon Bedrock AgentCore 代理调用另一个账户中的 Amazon Bedrock Knowledge Base，并从由 Amazon Redshift Serverl...
2026-08-26
来源: aws.amazon.com
38
排查生产故障时，真正拖慢节奏的往往不是缺少数据，而是在告警面板、Trace 页面、日志检索页和 IDE 之间反复跳转。Amazon OpenSearch Service 对 MCP Apps 的支持，试图把这条链路收进一次 Agent 对话：Agent 除了输出文字结论，还能返回可交互的可视化内容，让开发者在 IDE 中逐步核验告警、调用链、日志和根因...