来源: aws.amazon.com
42
Amazon Bedrock 现已在印度支持 OpenAI GPT-5.6 系列模型 Terra 和 Luna,并提供印度地理范围内的跨区域推理能力。对于需要遵守本地数据处理要求的团队,这意味着可以在保持请求和数据留在印度的前提下,按需扩展模型推理能力。 企业在印度部署生成式 AI 时,通常同时面对两个约束:一方面,希望使用更强的基础模型处理复杂任务;...
来源: aws.amazon.com
45
Amazon Bedrock 现在支持在印度使用 OpenAI GPT-5.6 模型、Terra 和 Luna,并提供印度地理跨区域推理能力。对于需要本地数据处理的团队,这意味着可以在保持推理请求和数据留在印度境内的前提下,将这些模型接入生产系统并进行规模化使用。 很多企业并不是单纯缺少模型能力,而是受到数据驻留和本地处理要求的约束。业务请求中的客户资...
来源: aws.amazon.com
52
自托管语音 AI 的难点不只在部署模型,还在于运营数据的归属。推理服务虽然运行在自己的 Amazon SageMaker AI 环境中,但容量规划、成本核算所需的账单、调用量和单卡 GPU 指标,往往封闭在供应商容器内。Deepgram 针对 SageMaker AI 提供的 Enhanced Metrics,目标正是把这些数据直接落到用户自己的 Am...
来源: aws.amazon.com
38
自动语音识别服务常见的成本问题,不是模型无法跑满 GPU,而是单个请求只短暂占用一部分计算资源。为了守住延迟目标,团队往往增加 GPU 实例,结果是显存已经分配、CUDA 上下文已经建立,计算单元却仍有大量空闲。 在 Amazon EC2 GPU 实例上组合 NVIDIA CUDA Multi-Process Service(MPS)与 NVIDIA ...
来源: oschina.net
42
DuckLabs 被 AWS 收购后,关注 DuckDB 的开发者产生疑虑并不奇怪。过去十年里,大公司收购开源团队的案例反复出现,项目的许可证、治理方式和社区关系也可能随之变化。 这次事件值得关注的地方在于:收购公告没有只强调商业价值,而是专门解释“什么不会变”。DuckDB 会继续采用 MIT 许可证开源,DuckDB Foundation 继续掌管...
来源: aws.amazon.com
39
Agent 应用正在从单一 SDK 走向多框架组合:团队可能用 LangGraph 编排流程,用 LlamaIndex 做检索,也可能选择 OpenAI Agents SDK、Google ADK、Claude Agent SDK 或 Strands Agents。框架选择变多后,评估系统最容易陷入重复建设:每换一个框架,就要重新接入追踪、指标和评分逻...
来源: aws.amazon.com
36
Gallup 将 90 年积累的职场科学转化为 Gallup AI,并通过 Amazon Bedrock 在 Gallup Access 应用中向领导者提供实时、个性化的辅导。这个案例的重要之处不只是“接入了一个大模型”,而是把长期沉淀的专业知识嵌入用户已有的工作入口,同时将服务扩展到数千名用户。 通用模型可以生成流畅建议,但领导力辅导需要知道用户面对...
来源: aws.amazon.com
34
很多团队在给 AI Agent 配权限时只有两个选项:完全访问,或者只能读取数据。前者把一次错误决策变成生产事故,后者又让 Agent 很难真正完成工作。更实用的做法是引入“分级自主权”:Agent 从低风险、低权限状态开始,根据持续的可靠表现逐步获得更多操作权限;当质量下降、风险升高或监控发现异常时,权限会自动收回。 这种模式的关键不在于给 Agen...
来源: aws.amazon.com
35
当企业的 BI 平台使用多年后,问题通常不在于“缺少报表”,而在于报表太多、性能太慢、口径难以统一,业务人员不得不反复依赖数据团队。GoDaddy 将原有 BI 工具迁移到 Amazon Quick,历时两年,最终每年节省 15,000 小时,将仪表板数量减少 50%,渲染时间压缩到 5 秒以内,并把 AI 驱动的自助分析能力开放给全体员工。 这不是一...
来源: aws.amazon.com
35
让患者通过自然对话预约移动采血服务,看起来只是“语音识别加大模型”。真正进入生产环境后,系统却必须同时处理双向音频流、工具调用、身份验证、预约冲突和等待体验。Natera 基于 Amazon Bedrock AgentCore 构建的自动化语音智能体,将这些问题拆成双 WebSocket 桥接、事件驱动的延迟掩蔽和渐进式信任认证,并在其测试场景中实现了...