标签

LLM

同一套集群,利用率多出 33 个百分点:调度顺序为何如此关键

来源: huggingface.co 34
硬件没有扩容,工作负载也没有缩水,集群利用率却提高了 33 个百分点。来源标题给出的关键线索只有一个:变化发生在任务处理顺序上。由于摘要未提供具体调度器、负载类型和利用率口径,本文不推断原案例的实现细节,而是拆解这种结果背后的通用机制,并给出一个可以运行的装箱模拟。 集群调度可以看成带约束的装箱问题:节点是箱子,Pod、作业或虚拟机是待装入的物品。真实...

SpaceXAI 推出 Grok Bot:让持久化 AI Agent 在云电脑上自主工作

来源: infoq.com 38
SpaceXAI 推出的 Grok Bot,把 AI Agent 从一次性对话窗口带到了持续运行的云端工作环境。根据目前披露的信息,这些 Agent 运行在专用云电脑上,可以访问网站、应用、收件箱以及其他工具,持续执行更接近真实办公流程的任务。 这类系统的关键变化不只是“模型能调用更多工具”,而是 Agent 获得了一个长期存在的工作空间:它可以保留任...

给 OpenClaw Agent 装上受控钱包:接入 AgentCore Payments 与 x402

来源: aws.amazon.com 28
自主 Agent 能调用工具,却不一定能完成需要付款的任务。付费 API、MCP Server 和受保护网页把“调用工具”变成了一个交易流程:服务端返回付款要求,Agent 判断价格与权限,获得必要的人类批准,再通过钱包支付并重试请求。 Amazon Bedrock AgentCore payments、x402 协议与 插件组合起来,提供了一条值得关...

用 AI 编程代理调试 Python:从失败测试到可验证修复

来源: realpython.com 31
AI 编程代理可以参与 Python 调试,但真正可靠的结果并不是“把报错贴给模型”这么简单。更稳妥的协作方式是:先用失败测试复现问题,再提供足够的代码上下文,最后运行测试和检查结果,确认修复没有引入新的回归。 调试的第一步不是询问 AI,而是固定问题。一个好的失败测试应当说明输入、预期行为和当前实际行为。这样,AI 代理有明确的执行目标,也能在修改代...

Grab 如何用 AI Agent 将机械化分析工作从 44% 降到 30%

来源: infoq.com 39
Grab 正在把 AI Agent 引入分析工作流,并将机械化分析工作占比从 2 月的 44% 降至 6 月的 30%。这项变化的关键不只是“让模型写 SQL”,而是把 Agent 自主性、认证数据、上下文管理和人工监督组合成一套可控的自助分析体系。 传统分析流程中,大量时间消耗在重复性任务上:确认指标定义、查找数据表、拼接 SQL、生成常规报表,以及...

Grab 如何用 AI Agent 把机械化分析工作从 44% 降到 30%

来源: infoq.com 40
Grab 正在把 AI Agent 引入分析工作流,并将机械化分析工作占比从 2 月的 44% 降低到 6 月的 30%。这不是简单地把聊天机器人接到数据仓库,而是把 Agent 自主执行能力、认证数据、上下文管理和人工监督组合成一套可控的自助分析系统。 传统的 AI 数据助手通常停留在生成 SQL:用户提问,模型给出一段查询语句,分析师还要检查指标定...

把零 CVE 变成默认状态:从镜像构建到开发机策略的供应链防线

来源: docker.com 37
随着供应链攻击持续增加、AI 生成代码进入更多生产系统,容器安全不能再等到发布前才集中清理。Docker 最新更新所指向的方向很明确:增加从源码构建的软件,在软件生命周期结束后继续提供安全覆盖,让定制镜像继承基础镜像的安全保证,并把策略检查前移到每台开发机。 这里的“零 CVE”更适合作为默认工作方式,而不是永久不变的承诺。漏洞数据库会更新,昨天通过扫...

用 AI Agent 调试 Python:从复现失败测试到验证修复

来源: realpython.com 34
调试 Python 代码时,AI Agent 的价值不在于“猜一个可能的答案”,而在于协助完成一条可验证的闭环:先用失败测试稳定复现问题,再定位根因、修改代码,最后重新运行测试确认修复没有引入回归。这个过程把自然语言分析和工程证据连接起来,也让调试结果更容易复查。 一个可靠的调试任务应该从可重复的失败开始。下面的示例假设我们正在实现一个计算购物车总价的...

Pi 如何用 Compaction 管理过长的编程对话上下文

来源: oschina.net 32
你和 AI 编程助手连续讨论了 30 轮,突然收到的不是代码诊断,而是上下文窗口超限错误。问题不一定出在代码本身,而是模型需要同时读取的历史消息太多了。 这不是某个工具独有的边缘问题。只要编程助手支持长对话、代码补丁、终端输出和多轮追问,就必须在有限的 token 预算里管理越来越长的上下文。Pi 采用的核心机制叫 ,可以理解为:把较早的对话压缩成一份...