标签

AWS

用 MLflow 与 SageMaker Model Registry 同步构建单账户模型治理闭环

来源: aws.amazon.com 28
Amazon SageMaker AI 托管的 MLflow 现在可以把更完整的模型信息同步到 SageMaker AI Model Registry，包括训练指标、评估结果、推理规格和模型血缘，并让模型生命周期阶段的晋升进入统一治理流程。对团队而言，这意味着 MLflow 不再只是实验记录工具，Model Registry 也不必依赖人工补录上下文。...
# AI # AWS # Go
阅读全文

把 AI Agent 回归测试接入 GitHub Actions：用 Amazon Bedrock AgentCore 自动拦截行为退化

来源: aws.amazon.com 30
传统服务可以靠单元测试验证确定性输出，AI Agent 却没有这么简单：同一个问题可能产生不同措辞，工具调用还会受到上下文、权限和模型版本影响。更可靠的办法，是把部署、真实提示词调用和语义评分串进 CI，让每个 Pull Request 都接受一次自动化行为检查。 Amazon Bedrock AgentCore Evaluations 与 GitHu...
# AI # AWS # LLM
阅读全文

SageMaker 上的 30B MoE 推理怎么选 GPU：G7、G6e、G6 与 G5 基准测试方法

来源: aws.amazon.com 39
部署实时大模型服务时，GPU 型号更新并不自动等于成本下降。真正需要比较的是：在目标并发、输入长度和输出长度下，每秒能生成多少 token，用户需要等待多久，以及这些 token 最终花了多少钱。 针对 Qwen3-Coder-30B 和 NVIDIA Nemotron-3-Nano-30B 这两个 30B Mixture-of-Experts（MoE...
# AI # AWS # LLM
阅读全文

把灾备排障带进客户机房：HPE Zerto 的 Amazon Bedrock 多智能体架构

来源: aws.amazon.com 30
灾难恢复系统的排障难点，不只是日志多，而是证据分散在复制任务、恢复点、网络、存储和基础设施状态中。HPE Zerto 基于 Amazon Bedrock 构建了一套智能体式排障系统，并把执行环境部署在客户本地。这个设计值得关注：大模型负责推理，但对实时灾备数据的采集、约束和治理留在客户环境内。 这类系统真正困难的部分，不是让模型“读懂一段日志”，而是让...
# AI # AWS # LLM
阅读全文

滴滴如何用 Amazon Bedrock 重建透明、可控的联络中心质检

来源: aws.amazon.com 34
联络中心质检真正困难的地方，不只是让模型给出一个分数，而是要让运营团队知道：为什么扣分、证据来自哪句话、规则如何调整，以及换一种语言后结果是否仍然可信。 滴滴基于 Amazon Bedrock 建设了一套自有的智能质检系统，用来替换不透明的第三方工具。根据案例摘要，系统的意图验证准确率从 38% 提升到 86%，合规评分准确率超过 90%，西班牙语和葡...
# AI # AWS # 云平台
阅读全文

用 chdb 扩展加速 PostgreSQL 云端数据导入：能力、基准与落地方法

来源: postgr.es 37
PostgreSQL 从对象存储导入大批量数据时，瓶颈往往不只在网络。CSV、Parquet 等格式的解析、类型转换、解压缩，以及数据写入 PostgreSQL 的过程，都可能消耗大量 CPU 和内存。新发布的 PostgreSQL 扩展提供了另一种实现路径：在 PostgreSQL 侧利用 chDB——一个进程内运行的 ClickHouse 引擎——...
# AI # AWS # LLM
阅读全文

Netflix 用开源 Flink Autoscaler 管理 3 万多个流任务：从集群扩缩容走向作业级调优

来源: infoq.com 30
Netflix 正在为分布于多个 AWS 区域的 3 万多个流处理任务引入开源 Apache Flink Autoscaler。变化的重点不只是换一套扩缩容工具，而是把资源决策从粗粒度的集群层下沉到 Flink 作业层，让扩缩容逻辑理解吞吐量、反压、并行度以及有状态任务的恢复成本。 Netflix 公布的案例显示，其中一个团队的 Flink 年化计算支...
# AWS # InfoQ # 云平台
阅读全文

用 Amazon Bedrock AgentCore 构建跨文本、语音留言与实时通话的 WhatsApp 点单助手

来源: aws.amazon.com 41
WhatsApp 商业账号通常不缺消息入口，真正困难的是让文本、语音留言和实时语音通话共享同一套点单逻辑。基于 Amazon Bedrock AgentCore 与 Amazon Nova 2，可以把三个渠道统一接入一个业务代理，同时保持渠道层和订单层解耦，并通过共享记忆识别跨渠道出现的同一位顾客。 三类输入看似都来自同一个 WhatsApp 号码，处...
# AI # AWS # LLM
阅读全文

给 AgentCore 记忆设定保质期：用 Step Functions 自动评分、合并与清理

来源: aws.amazon.com 41
长时间运行的 AI Agent 会不断积累用户偏好、任务结论和历史上下文。记忆越多并不等于效果越好：过时信息会干扰推理，重复事实会增加检索噪声，保留不再需要的敏感数据还会扩大合规风险。 针对 Amazon Bedrock AgentCore memory，可以把记忆治理设计成一条夜间批处理流水线：先评分，再合并，最后按策略清理。AWS Step Fun...
# AI # AWS # LLM
阅读全文

在 SageMaker HyperPod 上搭建 NVIDIA Cosmos 3 Physical AI 模型工厂

来源: aws.amazon.com 31
Physical AI 系统不是提交一次训练任务就能完成的工程。合成数据生成、后训练、评估、失败样本回流和再次训练会持续循环，而且每个阶段对 GPU、存储和调度的要求都不同。NVIDIA Cosmos 3 可以承担这条流水线中的模型与数据处理工作，而运行在 Amazon EKS 上的 SageMaker HyperPod 则提供持久、具备故障恢复能力的...
# AI # AWS # Go
阅读全文