标签

机器学习

SageMaker AI 实例偏好列表:让训练任务自动选择有容量的机型

来源: aws.amazon.com 27
训练代码已经准备好,作业却因为首选实例没有容量而启动不了——这类问题往往把工程师拖进“换机型、重提任务、盯容量”的循环。Amazon SageMaker AI 新增的实例偏好列表,将这部分选择逻辑交给服务处理:为训练或处理作业指定最多五种实例类型,按顺序排列,SageMaker AI 会选择列表中第一个有可用容量的类型启动作业。 它解决的是启动时如何选...

把 Agent 的“草稿纸”放进沙箱:Abnormal AI 如何用 Amazon Bedrock AgentCore 支撑大规模邮件安全

来源: aws.amazon.com 41
实时邮件威胁检测面对的不是一个漂亮的 demo,而是持续涌入、格式复杂、内容高度不可信的消息流。Abnormal AI 分享的实践重点,是把 Amazon Bedrock AgentCore Code Interpreter 当作 Agent 的临时计算草稿纸:需要时创建,处理完成后销毁,让 Agent 能在隔离环境中完成解析、计算和证据整理,同时避免...

用 Amazon Bedrock AgentCore 为 AI Agent 建立可审计的 OAuth 用户授权

来源: aws.amazon.com 31
当 AI Agent 开始代表用户读取 GitHub 仓库、向 Slack 频道发消息时,身份问题就不再只是“把一个 Token 塞进环境变量”。系统需要明确回答:谁授予了权限、授予了哪些范围、授权属于哪次 Agent 会话,以及事后如何追踪。 Amazon Bedrock AgentCore Identity 提供的 Consent portal,是...

用 Amazon Bedrock AgentCore 构建多智能体 FDX API 入驻助手

来源: aws.amazon.com 39
开放金融接入最耗时的部分,往往不是把一个 API 请求发送出去,而是确认接口是否符合 Financial Data Exchange(FDX)标准、补齐证据、解释差异,并在安全与合规约束下反复沟通。Ninth Wave 构建的 Compass 将这套流程交给运行在 Amazon Bedrock AgentCore 上的多智能体助手处理,把原本以周计算的...

生成式 AI 定制路线怎么选:从提示词到 AWS 自定义模型

来源: aws.amazon.com 43
生成式 AI 项目最容易走偏的地方,不是模型调用,而是过早选择了过重的定制方案。很多问题用更好的提示词就能解决;有些问题需要接入企业知识库;只有当模型的行为、领域语言或任务能力仍然达不到要求时,才值得考虑微调、持续预训练,甚至构建更深度的自定义模型。 在 AWS 上,可以把这条路线理解为一条逐步升级的定制光谱:从提示词工程开始,经过 RAG、工具调用和...

让补货自动闭环:用 MMF、Databricks Genie 和 Amazon Quick 把预测变成订单

来源: aws.amazon.com 25
基础模型已经让“给整个商品目录做需求预测”变得相对容易,但预测本身不会让货架恢复库存。真正棘手的是下一步:识别需求激增、核对供应商的实时可供货量、决定补多少,并在条件满足时自动下单。 这篇文章讨论一种部署在 Databricks 和 Amazon Quick 上的闭环:检测需求变化,做出补货决策,执行采购动作;只有没有任何供应商能够覆盖需求时,才升级给...

生产环境中的 Agent 生命周期监控:用 AgentCore Evaluations 与 AWS DevOps Agent 构建双层闭环

来源: aws.amazon.com 35
多 Agent 系统上线后,故障通常不只是“服务是否存活”。一个航空订票系统可能返回了 HTTP 200,却把乘客引导到错误的航班;某个 Agent 可能因为工具调用延迟变高而反复重试,最终拖慢整个预订流程。传统的 CPU、内存和错误率监控,很难回答这些问题。 这类系统需要两层监控:一层持续衡量 Agent 的回答质量和行为表现,另一层负责调查承载 A...

别只看每百万 Token 价格:如何为 Amazon Bedrock 选择合适的 OpenAI 模型

来源: aws.amazon.com 41
在 Amazon Bedrock 上比较 OpenAI 模型时,只看每百万 Token 的单价,很容易得到一个看似精确、实际不够有用的结论。生产系统真正承担的成本,通常还包括重试、人工复核、工具调用、上下文长度,以及模型是否一次就能交付正确结果。 更可靠的评估方式,是把价格放回业务结果中:每个正确答案花了多少钱?一次 Agent 任务完整轨迹消耗了多少...

用 Amazon Bedrock AgentCore 构建可交互的 MCP Apps

来源: aws.amazon.com 33
MCP Apps 让模型调用工具的结果不再局限于纯文本。通过交互式 HTML widget,同一个 MCP Server 可以把表单、筛选器、图表或审批控件交给 AI Host 渲染,让用户直接在对话界面中完成操作。 这套能力的关键在于:MCP Apps 是与 Host 解耦的标准扩展。只要 ChatGPT、Claude 或其他 AI Host 支持对...

用 Helion 与 Hugging Face Kernels 构建、调优并分发高性能 GPU Kernel

来源: pytorch.org 30
Hugging Face Kernels 项目加入 Helion 支持后,GPU Kernel 的开发链路变得更完整:开发者可以用更接近 Python 和 PyTorch 的方式描述计算,通过自动调优寻找适合当前硬件与输入形状的配置,再借助 Hugging Face Kernels 进行打包和分发。重点不只是“写出一个能运行的 Kernel”,而是让它...