标签

机器学习

在 SageMaker JumpStart 上部署 NVIDIA Nemotron 3 Ultra：更快推理、更低成本的 Agentic AI 实践

来源: aws.amazon.com 110
NVIDIA Nemotron 3 Ultra 正式登陆 Amazon SageMaker JumpStart。对于正在构建 Agentic AI 工作流的团队来说，这个消息值得关注：官方数据显示，该模型在推理任务上可实现约 5 倍加速、成本降低约 30%。这意味着原本需要多轮调用、链式推理的 Agent 场景，有了更经济的模型选择。 Nemotron...
# AI # AWS # LLM
阅读全文

用三层架构在 Bedrock 上搭建自驱式 AI 运维告警系统

来源: aws.amazon.com 57
大规模运行 Bedrock 上的生成式 AI 应用时，运维团队很快会遇到一个棘手问题：告警太多、阈值太死、工单重复创建，SRE 散落在各处的通知缺乏上下文。Amazon Bedrock Ops Alert 正是为了解决这些痛点而设计的三层自动化监控方案——它不只是"检测→通知"的流水线，而是把阈值自适应、告警分类、工单去重和上下文推送串成一条自驱闭环。...
# AI # AWS # Go
阅读全文

在 SageMaker JumpStart 上部署 Fundamental NEXUS 大表格模型，跑通企业数据预测

来源: aws.amazon.com 64
表格数据是企业里最常见的数据形态——客户画像、交易流水、设备日志，几乎都落在结构化表格里。传统做法是逐任务训练 XGBoost 或 LightGBM，每个模型只管一个场景，换个任务就要重新调参。Fundamental 推出的 NEXUS（Large Tabular Model）试图用"预训练 + 微调"的范式把表格数据也拉进大模型路线：先在海量表格数据...
# AI # AWS # 云平台
阅读全文

用 SOCI 索引加速深度学习容器冷启动：DLAMI 与 DLC 实战指南

来源: aws.amazon.com 69
深度学习容器动辄数 GB，拉取镜像往往成为冷启动的瓶颈。AWS 推出的 SOCI（Seekable OCI）通过"懒加载"让容器不必等整个镜像下载完就能启动——镜像层按需拉取，启动后再后台补齐剩余数据。这篇文章聚焦如何在公开的 Deep Learning AMI（DLAMI）和 Deep Learning Containers（DLC）上使用 SOCI...
# AI # AWS # 云原生
阅读全文

用 SFT + DPO 双阶段训练，让小模型的工具调用不再"胡说八道"

来源: aws.amazon.com 68
大模型做 Agent 时，最让人头疼的不是推理能力不够，而是工具调用不准——该调 API 时不调，不该调时瞎调，参数拼错、格式乱写，整个工作流直接断掉。Amazon SageMaker AI 最近的一篇实践文章给出了一个清晰的解法：先用监督微调（SFT）教会模型"怎么正确调用工具"，再用直接偏好优化（DPO）让它学会"哪种调用方式更好"，两步叠加，小语...
# AI # AWS # LLM
阅读全文

DeepSpeed 正式集成 Muon 优化器：从原理到上手配置

来源: pytorch.org 52
Muon 优化器在过去几个月里迅速获得了前沿 AI 实验室的青睐——Moonshot AI 等团队已经在大规模训练中采用它。现在 DeepSpeed 完成了对 Muon 的原生支持，意味着用 DeepSpeed 做分布式训练的开发者可以直接在配置文件里切换到这个优化器，不再需要自己魔改训练循环。 传统 AdamW 对每个参数维护一阶动量和二阶动量（逐元...
# AI # PyTorch # 机器学习
阅读全文

领域微调不翻车：Amazon Nova Forge 上的超参优化实战

来源: aws.amazon.com 51
把一个大模型调得更懂你的业务领域，听起来简单——喂数据、跑训练、看指标上涨就完事了。现实远比这残酷：领域指标确实涨了，但模型突然不会做通用任务了；或者训练跑完才发现学习率设错，几十小时的 GPU 时间打了水漂。Amazon Nova Forge 的超参优化实践，本质上就是在"领域提升"和"通用保持"之间走钢丝，同时尽量别在计算成本上摔跟头。 很多人拿到...
# AI # AWS # 云平台
阅读全文

用 Amazon Nova 2 Lite 做目标检测：从 Prompt 到部署的全链路实践

来源: aws.amazon.com 47
视觉大模型正在从"能看懂图"走向"能结构化地看懂图"。Amazon Nova 2 Lite 是 Bedrock 上新增的多模态模型，它不仅能识别图中的物体，还能按你要求的 JSON 格式输出检测结果——坐标、类别、置信度一应俱全。这意味着你不再需要单独跑一个 YOLO 推理服务，直接用一次 API 调用就能完成"看图 → 出结构"的闭环。 这篇文章把从...
# AI # AWS # 云平台
阅读全文

用 Amazon Bedrock AgentCore 搭建高精度 AI 代码审查 Agent——Baz 的实战拆解

来源: aws.amazon.com 56
代码审查是工程团队最耗时又最不可省略的环节。Baz 团队面对的问题是：Spec Review（规格审查）需要逐条比对需求文档与代码实现，人工做这件事既慢又容易漏项。他们用 Amazon Bedrock 搭配新发布的 AgentCore 框架，构建了一个 Spec Review Agent，把审查准确率拉到了可投产的水平。这篇文章拆解他们的架构选择、实现...
# AI # AWS # LLM
阅读全文