标签

机器学习

把 AI Agent 回归测试接入 GitHub Actions：用 Amazon Bedrock AgentCore 自动拦截行为退化

来源: aws.amazon.com 29
传统服务可以靠单元测试验证确定性输出，AI Agent 却没有这么简单：同一个问题可能产生不同措辞，工具调用还会受到上下文、权限和模型版本影响。更可靠的办法，是把部署、真实提示词调用和语义评分串进 CI，让每个 Pull Request 都接受一次自动化行为检查。 Amazon Bedrock AgentCore Evaluations 与 GitHu...
# AI # AWS # LLM
阅读全文

SageMaker 上的 30B MoE 推理怎么选 GPU：G7、G6e、G6 与 G5 基准测试方法

来源: aws.amazon.com 39
部署实时大模型服务时，GPU 型号更新并不自动等于成本下降。真正需要比较的是：在目标并发、输入长度和输出长度下，每秒能生成多少 token，用户需要等待多久，以及这些 token 最终花了多少钱。 针对 Qwen3-Coder-30B 和 NVIDIA Nemotron-3-Nano-30B 这两个 30B Mixture-of-Experts（MoE...
# AI # AWS # LLM
阅读全文

把灾备排障带进客户机房：HPE Zerto 的 Amazon Bedrock 多智能体架构

来源: aws.amazon.com 30
灾难恢复系统的排障难点，不只是日志多，而是证据分散在复制任务、恢复点、网络、存储和基础设施状态中。HPE Zerto 基于 Amazon Bedrock 构建了一套智能体式排障系统，并把执行环境部署在客户本地。这个设计值得关注：大模型负责推理，但对实时灾备数据的采集、约束和治理留在客户环境内。 这类系统真正困难的部分，不是让模型“读懂一段日志”，而是让...
# AI # AWS # LLM
阅读全文

滴滴如何用 Amazon Bedrock 重建透明、可控的联络中心质检

来源: aws.amazon.com 34
联络中心质检真正困难的地方，不只是让模型给出一个分数，而是要让运营团队知道：为什么扣分、证据来自哪句话、规则如何调整，以及换一种语言后结果是否仍然可信。 滴滴基于 Amazon Bedrock 建设了一套自有的智能质检系统，用来替换不透明的第三方工具。根据案例摘要，系统的意图验证准确率从 38% 提升到 86%，合规评分准确率超过 90%，西班牙语和葡...
# AI # AWS # 云平台
阅读全文

PyTorch 中国大会释放信号：开放 AI 技术栈正在走向协同共建

来源: pytorch.org 39
在上海举行的 PyTorch Conference China 聚集了阿里云、蚂蚁集团、寒武纪和华为等中国 AI 产业参与者。更值得关注的是，阿里云和寒武纪加入 PyTorch Foundation，成为白金会员，蚂蚁集团也加入基金会。这一变化说明，AI 基础设施的竞争正在从单一模型或单一芯片，扩展到框架、编译器、硬件适配、云服务和开发者生态的整体协作...
# AI # PyTorch # 机器学习
阅读全文

寒武纪加入 PyTorch 基金会白金会员：AI 芯片厂商如何更深度参与开源生态

来源: pytorch.org 45
PyTorch 基金会宣布，寒武纪（Cambricon）加入该基金会，成为白金会员。PyTorch 基金会是 Linux 基金会旗下、以社区驱动的开源 AI 枢纽；寒武纪成立于 2016 年，此次加入意味着 AI 芯片厂商与 PyTorch 开源社区之间的协作关系进一步受到关注。 对于开发者而言，会员身份本身并不会自动改变某个 PyTorch API ...
# AI # PyTorch # 机器学习
阅读全文

从会用模型到共建系统：班加罗尔 PyTorch 与 Hugging Face 技术社区的实践信号

来源: pytorch.org 41
在班加罗尔举行的一场技术活动中，超过 170 名学生、工程师、研究人员和开源贡献者聚到一起，围绕 PyTorch、大规模推理与强化学习展开交流。活动由 Red Hat 和 Hugging Face 主办。比参会规模更值得注意的是主题的变化：机器学习社区关注的不再只是“如何调用一个模型”，而是如何理解运行时、控制推理成本、评估系统行为，并把改进反馈给开源...
# AI # PyTorch # 机器学习
阅读全文

用 Amazon Bedrock AgentCore 构建跨文本、语音留言与实时通话的 WhatsApp 点单助手

来源: aws.amazon.com 41
WhatsApp 商业账号通常不缺消息入口，真正困难的是让文本、语音留言和实时语音通话共享同一套点单逻辑。基于 Amazon Bedrock AgentCore 与 Amazon Nova 2，可以把三个渠道统一接入一个业务代理，同时保持渠道层和订单层解耦，并通过共享记忆识别跨渠道出现的同一位顾客。 三类输入看似都来自同一个 WhatsApp 号码，处...
# AI # AWS # LLM
阅读全文

从芯片到集群：PyTorch Conference North America 2026 硬件加速参会指南

来源: pytorch.org 47
PyTorch Conference North America 2026 将于 10 月 20 至 21 日在圣何塞举行。从已公布的主题看，硬件加速与计算基础设施会是重要主线：如何让 PyTorch 在日益多样的芯片上运行得更快，同时保持可移植、可观测和可靠。对工程团队而言，这不只是选择一块更快的加速卡，还涉及编译、算子覆盖、分布式通信、环境复现和成...
# AI # PyTorch # 机器学习
阅读全文

给 AgentCore 记忆设定保质期：用 Step Functions 自动评分、合并与清理

来源: aws.amazon.com 41
长时间运行的 AI Agent 会不断积累用户偏好、任务结论和历史上下文。记忆越多并不等于效果越好：过时信息会干扰推理，重复事实会增加检索噪声，保留不再需要的敏感数据还会扩大合规风险。 针对 Amazon Bedrock AgentCore memory，可以把记忆治理设计成一条夜间批处理流水线：先评分，再合并，最后按策略清理。AWS Step Fun...
# AI # AWS # LLM
阅读全文