标签

AI

NVIDIA PAIR:把局域网里的多台电脑变成 AI 推理资源池

来源: infoq.com 33
本地 AI 的瓶颈不总是模型太大,也可能是请求太多。单个智能体运行顺畅,并不代表研究、编码、检索等多个智能体同时工作时,一张 GPU 还能稳定响应。处于 Beta 阶段的 NVIDIA Personal AI Router(PAIR)试图解决这个问题:汇集局域网内多台计算机的推理能力,并自动把 AI 请求分配给它们。 PAIR 最适合多个相互独立的模型...

从零样本预测到采购订单:用 Amazon Bedrock AgentCore 编排需求决策

来源: aws.amazon.com 43
需求预测真正难的地方,通常不是生成一个数字,而是把这个数字变成一张可解释、可校验、可追溯的采购订单。将 Amazon Chronos2 的零样本预测能力与 Amazon Bedrock AgentCore 的多智能体编排结合起来,可以搭建一条从历史销量到采购建议的自动化链路:不必为每个商品单独训练模型,同时把库存策略、供应商约束、审批规则和审计记录放进...

Covonaut v1.1.2:让 Go Agent 的终端对话更像真正的协作工具

来源: oschina.net 22
Covonaut v1.1.2 的重点,不只是继续补齐 Go Agent 框架能力,还把注意力放到了终端交互本身:对话过程中可以插入旁问,并提供三档输出方式。对于需要在命令行里调试、运行和观察 Agent 的团队来说,这意味着终端不再只是“提交任务并等待结果”的窗口,而可以成为一个可控的工作界面。 Covonaut 以纯 Go 实现,并采用 MIT 协...

tsgolint v7 稳定版:让 Oxlint 获得 Go 驱动的 TypeScript 类型感知检查

来源: infoq.com 36
TypeScript lint 的性能瓶颈,往往不在语法扫描,而在类型信息构建。只看 AST 的规则可以很快,但一旦规则需要判断 Promise 是否被处理、类型断言是否安全,或两个表达式在语义上是否兼容,就必须借助 TypeScript 编译器的语义分析。 tsgolint v7 已进入稳定阶段,它通过 编译器提供类型语义,并把这部分能力接入 Oxl...

从 2026 Django 开发者调查到可复现构建:团队该如何使用 LLM 与锁定依赖

来源: realpython.com 44
2026 年 Django 开发者调查把两个正在重塑 Python 团队工作方式的话题放到了一起:开发者如何把 LLM 纳入日常开发,以及项目如何获得稳定、可复现的构建。前者提高编码速度,后者控制交付风险;如果只关注其中一边,团队很容易得到“写得更快、坏得也更快”的结果。 来源摘要没有提供具体比例,因此不宜凭空解读调查数字。但这些问题本身已经足够明确:...

PostgreSQL 逻辑复制为何吃满磁盘:从 pg_replslot 泄漏到 streaming 调优

来源: postgr.es 34
PostgreSQL 的逻辑复制通常安静得让人忘记它的存在,直到发布端的 目录突然出现成千上万个文件,磁盘告警随之响起。更棘手的是,这些文件可能在大事务提交后立即消失,只留下一个恢复正常的目录和几项累计统计。 问题往往不是复制槽失效,也不一定是订阅端落后,而是逻辑解码正在为尚未提交的大事务暂存数据。订阅越多,同一份 WAL 就会被重复解码和暂存越多次。...

从“能申请 GPU”到真正可靠:分布式 AI 训练的云原生基础

来源: cncf.io 37
当 AI 训练从单机 GPU 扩展到多个节点时,平台团队面对的问题就不再只是“有没有足够的显卡”。节点之间的网络、数据读取、任务调度、故障恢复、可观测性和资源隔离,都会直接影响训练是否能稳定完成。 因此,给集群装上 GPU 驱动只是起点。真正的 AI-ready 平台,需要把一次分布式训练当成一个完整的云原生工作负载来设计。 单节点训练失败时,排查范围...

LinkedIn 如何用多教师知识蒸馏把 AI 求职排序训练提速 8 倍

来源: infoq.com 34
LinkedIn 公布了其 AI 求职搜索训练基础设施的一部分:通过多教师知识蒸馏,将多个大型教师模型中的排序能力压缩到一个仅有 0.6B 参数的紧凑模型中。这个思路的关键不只是“把大模型变小”,而是让多个教师模型共同提供训练信号,再用一个适合线上部署的学生模型完成最终排序。 对于搜索、推荐和广告系统来说,这种方案很有吸引力:大模型可以承担复杂的语义理...

从 Python 库到全球存储平台:Habitat 如何支撑 10 亿 ChatGPT 用户

来源: openai.com 38
当一个存储组件只服务少量应用时,Python API、单区域部署和简单的对象读写通常已经足够。但随着 ChatGPT 用户规模扩大到 10 亿、请求峰值达到每秒 2200 万次,存储系统面对的就不再只是“能不能保存数据”,而是全球流量、容量增长、故障隔离和开发效率的综合考验。 OpenAI 分享的 Habitat 演进路径,核心变化是:它从一个 Pyt...

CocktailASR-1:把“听清所有人”改成“只听目标说话人”

来源: oschina.net 26
多人同时讲话时,传统语音识别系统面对的并不只是背景噪声,而是多个结构完整、频段重叠的人声。小米开源的 CocktailASR-1 采用了另一条路线:先提供目标说话人的身份线索,再让模型只转写这个人的语音。这个变化把任务从普通 ASR 转成了目标说话人语音识别,也让系统边界、数据组织和评测方式随之改变。 降噪通常假设需要保留的是语音,而需要消除的是风声、...