标签

机器学习

Amazon Bedrock 上实现程序化工具调用的三种路径

来源:aws.amazon.com 32
模型能"说"要调用工具,但谁来真正执行代码、返回结果?Amazon Bedrock 近期推出的 Programmatic Tool Calling(PTC)把这个问题推到了开发者面前:你需要一个沙箱来安全地跑代码,再把输出喂回模型。选哪种沙箱方案,直接决定了你的控制粒度、运维成本和开发体验。 下面拆解三种实现方式——自建 ECS Docker 沙箱、B...

用 Amazon Nova 2 Lite 做内容审核:结构化提示词实战与基准对比

来源:aws.amazon.com 39
内容审核是每个上线产品都要面对的问题——用户生成的文本、图片、视频里,哪些该拦、哪些该放,标准往往模糊且频繁变动。传统方案靠关键词匹配或小模型分类,维护成本高、泛化能力差。Amazon Nova 2 Lite 把大语言模型的理解能力直接用在审核环节:你只需要把审核规则写进提示词,模型就能按你的定义做判断。 这篇文章拆解两种提示词写法——结构化与自由式,...

用 Amazon Q 统一六套系统搜索、自动化文档流程——Aderant 的云运维实践

来源:aws.amazon.com 17
法律行业软件公司 Aderant 运维团队每天要跨六套不同供应商系统查信息、写文档:工单在 ServiceNow,知识库在 Confluence,代码在 GitHub,资产台账在另一套 CMDB……搜索一个问题的完整上下文,往往要手动跳转多个平台,耗时数分钟甚至更久。文档编写更是重复劳动——同样的变更记录,要在不同系统里各写一遍。 他们用 Amazon...

把 Confluence 知识库接入 Amazon Q:语义搜索与自动化操作实战

来源:aws.amazon.com 28
企业内部最重的知识资产往往躺在 Confluence 里——项目文档、运维手册、决策记录,几百上千页,靠标题和标签翻找越来越像大海捞针。Amazon Q Business(下文简称 Q)提供了语义搜索和 Actions 机制,能把 Confluence 从"被动存档"变成"主动回答"。这篇文章走一遍完整接入流程:建知识库、配 Actions、用 Spa...

在 Apple Silicon GPU 上跑 PyTorch 模型:ExecuTorch MLX Delegate 实战

来源:pytorch.org 35
过去在 Mac 上做推理,要么老老实实跑 CPU,要么绕道转成 CoreML 模型——中间的格式转换和精度损失让人头疼。Apple 的 MLX 框架已经证明 M 系列芯片的 GPU 能跑出相当不错的推理速度,但 PyTorch 生态一直缺少一条直通路径。ExecuTorch MLX Delegate 的出现,把这条路铺通了:PyTorch 模型导出后,...

用 Amazon Bedrock AgentCore 自建代码级评估器:从金融情报 Agent 的四个实战案例说起

来源:aws.amazon.com 33
金融市场的 AI Agent 一旦上线,回答质量直接关系到交易决策和合规风险。Amazon Bedrock AgentCore 最近开放了自定义代码评估器(custom code-based evaluator)能力,让你可以用 Lambda 函数对 Agent 输出做细粒度、可编程的质检——不再只能依赖内置的通用指标。 这篇文章围绕一个金融市场情报 ...

用文档级 ACL 给 Amazon Q 知识库加一道"门禁"

来源:aws.amazon.com 20
当知识库接入 Amazon Q 后,所有被索引的文档都可能出现在聊天回答里。如果 S3 桶里同时存放了全员可见的规章制度和仅限高管查看的薪酬方案,不加权限过滤就等于把锁拆了。Amazon Q Business 的 S3 知识库支持文档级访问控制列表(ACL),让每条文档自带"谁能看"的标签,聊天和自动化工作流都会自动遵守这套规则。 Amazon Q 在...

让对话机器人更懂你:Amazon Lex Assisted NLU 实战指南

来源:aws.amazon.com 32
传统 NLU 模型靠语料喂养意图,写几条样本句就指望模型猜出用户心思——结果往往是意图混淆、槽位漏抓、上线后疯狂补样本。Amazon Lex 推出的 Assisted NLU 改变了这条老路:通过意图和槽位的结构化描述,让模型在训练阶段就"读懂"每个意图的业务语义,而不是仅靠样本句做模式匹配。下面拆解具体做法。 Assisted NLU 的核心变化是—...

用 Stream Vision Agents 和 Amazon Nova 2 Sonic 搭建实时语音 Agent

来源:aws.amazon.com 21
语音交互正在从"演示级玩具"走向"生产级产品"。过去搭一个实时语音 Agent,你要自己搞定 WebSocket 管理、音频流缓冲、VAD(语音活动检测)、TTS/STT 编排、断线重连……光基础设施就够写一个月。Stream 的 Vision Agents 开源框架把这套管线标准化了,再配上 Amazon Bedrock 上的 Nova 2 Soni...