标签

AI

Google Cloud 会话控制升级:按用户组和应用设置重新认证边界

来源: cloud.google.com 10
Google Cloud 的会话管理,正在从“给整个组织设置一个时长”变成更精细的访问控制工具。此次更新把会话控制深入整合到 Context-Aware Access(CAA),支持按 Google Groups 和具体应用配置策略,并通过 Terraform、gcloud 和 REST API 管理。 这意味着安全团队可以给高权限用户设置更短的会话,...

别只盯着模型:用科学判断构建可靠的 AI 基础设施

来源: medium.com 18
AI 系统的效果从来不只由模型参数量决定。推理延迟、数据管道、缓存策略、失败重试、观测指标和成本控制,都会改变最终用户体验。真正成熟的 AI 基础设施工程,不是不断追逐“更大的模型”,而是把工程决策变成可验证、可复现、可回滚的实验。 这里的“科学判断”不是要求每个工程师都做学术研究,而是要求我们在做架构选择时明确假设、控制变量、测量结果,并承认不确定性...

AI 加速漏洞发现之后,企业如何跟上补丁节奏?

来源: infoq.com 11
微软 2026 年 9 月补丁更新修复了超过 950 个漏洞,今年累计修复数量约达 2,750 个。这个数字说明,AI 辅助安全研究正在加快漏洞发现与披露速度;但对企业来说,真正棘手的问题并不是“有没有补丁”,而是能否及时评估、排序并部署这些补丁。 漏洞数量增长会直接冲击传统补丁流程:安全团队收到更多通告,运维团队面对更多变更窗口,业务团队则需要在可用...

用 Amazon Bedrock Prompt Caching 降低重复上下文的成本与延迟

来源: aws.amazon.com 23
当应用反复把同一套系统指令、产品文档、工具定义或租户配置发送给基础模型时,真正浪费的往往不是模型输出,而是重复计算的输入 Token。Amazon Bedrock 的 Prompt Caching 可以复用这类稳定上下文,在合适的场景下将输入 Token 成本最高降低 90%,同时减少首字节延迟。 本文围绕 Converse API,拆解六类常见用法:...

用 SageMaker 无服务器模型定制构建低成本 AI 商品标签系统

来源: aws.amazon.com 30
当商品目录从几百条增长到几万条,人工打标签很快会变成一个昂贵、缓慢且不一致的流程。不同运营人员可能为相似商品选择不同标签,规则变化后还要重新检查历史数据。 一种更可控的做法是:使用带标签的商品样本对 Qwen3-8B 进行监督微调(SFT),再通过带可验证奖励的强化学习(RLVR)约束输出格式和标签准确性,最后在 Amazon SageMaker 上部...

SageMaker AI 实例偏好列表:让训练任务自动选择有容量的机型

来源: aws.amazon.com 28
训练代码已经准备好,作业却因为首选实例没有容量而启动不了——这类问题往往把工程师拖进“换机型、重提任务、盯容量”的循环。Amazon SageMaker AI 新增的实例偏好列表,将这部分选择逻辑交给服务处理:为训练或处理作业指定最多五种实例类型,按顺序排列,SageMaker AI 会选择列表中第一个有可用容量的类型启动作业。 它解决的是启动时如何选...

Agent 做对一次之后,如何验证它还能持续做对?

来源: huggingface.co 28
Agent 成功完成一次任务,证明的是“这次能做”,不是“下次也能做”。对于准备接入业务流程的开发者,这个区别决定了系统能否从演示走向生产:偶尔生成正确答案,与持续执行正确操作,是两种不同的工程能力。 提供的来源只有标题,没有正文摘要。因此,下面围绕标题提出的可靠性问题展开工程实践,不推断原文采用了什么实验、指标或工具。 假设一个 Agent 的任务是...

用 GNN 和 Distributed Graph Flow,让电信网络自治有据可依

来源: cloud.google.com 15
电信网络自治的难点,不只是让 AI Agent 会调用运维工具,而是让它在海量设备、链路、业务和历史指标之间,找到足以支撑决策的证据。把数十亿条数据直接塞给 Agent,并不能解决这个问题。 Google Cloud 提出的 Autonomous Network Operations 框架将职责分成三层:数字孪生保存网络状态,图神经网络提取关系与预测信...

Agent Substrate 上线 GKE:让 Agent 沙箱按需唤醒,而不是一直占着机器

来源: cloud.google.com 20
把 Claude Code、Codex 或 Hermes 跑在本地,和运营几十万个长期存活的 Agent,是两种基础设施问题。后者既要执行模型生成的不可信代码,又要承受突发任务,还不能让等待推理结果的沙箱持续占用 CPU 和内存。 Agent Substrate 的核心变化,是把 Agent 执行生命周期与机器管理拆开:Kubernetes 管理节点和...

Filestore agent volumes:为大规模 AI Agent 提供弹性持久工作区

来源: cloud.google.com 23
AI Agent 不只是调用模型和返回文本。它们还需要运行构建工具、安装第三方依赖、分析数据集、保存中间结果,并在用户稍后回来时继续之前的工作。随着 Agent 沙箱从几十个扩展到数千甚至数百万个并发会话,工作区存储会成为平台架构中的关键瓶颈。 Google Cloud 推出的 Filestore agent volumes,目标正是解决这类动态工作负...