标签

LLM

NVIDIA PAIR：把局域网里的多台电脑变成个人 AI 推理池

来源: infoq.com 33
NVIDIA Personal AI Router（PAIR）现已进入 Beta 阶段。它的目标不是让某一张 GPU 突然拥有更多显存，而是把局域网中多台电脑的推理能力组织起来，自动将 AI 请求分发到合适的节点。对于会同时触发多个模型调用的本地多智能体系统，这种调度方式尤其有价值：规划、检索、编码和审查任务不必再排队挤占同一张 GPU。 理解 PAI...
# AI # InfoQ # LLM
阅读全文

NVIDIA PAIR：把局域网里的多台电脑变成 AI 推理资源池

来源: infoq.com 28
本地 AI 的瓶颈不总是模型太大，也可能是请求太多。单个智能体运行顺畅，并不代表研究、编码、检索等多个智能体同时工作时，一张 GPU 还能稳定响应。处于 Beta 阶段的 NVIDIA Personal AI Router（PAIR）试图解决这个问题：汇集局域网内多台计算机的推理能力，并自动把 AI 请求分配给它们。 PAIR 最适合多个相互独立的模型...
# AI # InfoQ # LLM
阅读全文

从零样本预测到采购订单：用 Amazon Bedrock AgentCore 编排需求决策

来源: aws.amazon.com 37
需求预测真正难的地方，通常不是生成一个数字，而是把这个数字变成一张可解释、可校验、可追溯的采购订单。将 Amazon Chronos2 的零样本预测能力与 Amazon Bedrock AgentCore 的多智能体编排结合起来，可以搭建一条从历史销量到采购建议的自动化链路：不必为每个商品单独训练模型，同时把库存策略、供应商约束、审批规则和审计记录放进...
# AI # AWS # LLM
阅读全文

Covonaut v1.1.2：让 Go Agent 的终端对话更像真正的协作工具

来源: oschina.net 19
Covonaut v1.1.2 的重点，不只是继续补齐 Go Agent 框架能力，还把注意力放到了终端交互本身：对话过程中可以插入旁问，并提供三档输出方式。对于需要在命令行里调试、运行和观察 Agent 的团队来说，这意味着终端不再只是“提交任务并等待结果”的窗口，而可以成为一个可控的工作界面。 Covonaut 以纯 Go 实现，并采用 MIT 协...
# AI # Go # LLM
阅读全文

tsgolint v7 稳定版：让 Oxlint 获得 Go 驱动的 TypeScript 类型感知检查

来源: infoq.com 33
TypeScript lint 的性能瓶颈，往往不在语法扫描，而在类型信息构建。只看 AST 的规则可以很快，但一旦规则需要判断 Promise 是否被处理、类型断言是否安全，或两个表达式在语义上是否兼容，就必须借助 TypeScript 编译器的语义分析。 tsgolint v7 已进入稳定阶段，它通过 编译器提供类型语义，并把这部分能力接入 Oxl...
# AI # Go # InfoQ
阅读全文

从 2026 Django 开发者调查到可复现构建：团队该如何使用 LLM 与锁定依赖

来源: realpython.com 39
2026 年 Django 开发者调查把两个正在重塑 Python 团队工作方式的话题放到了一起：开发者如何把 LLM 纳入日常开发，以及项目如何获得稳定、可复现的构建。前者提高编码速度，后者控制交付风险；如果只关注其中一边，团队很容易得到“写得更快、坏得也更快”的结果。 来源摘要没有提供具体比例，因此不宜凭空解读调查数字。但这些问题本身已经足够明确：...
# AI # Django # Go
阅读全文

PostgreSQL 逻辑复制为何吃满磁盘：从 pg_replslot 泄漏到 streaming 调优

来源: postgr.es 24
PostgreSQL 的逻辑复制通常安静得让人忘记它的存在，直到发布端的 目录突然出现成千上万个文件，磁盘告警随之响起。更棘手的是，这些文件可能在大事务提交后立即消失，只留下一个恢复正常的目录和几项累计统计。 问题往往不是复制槽失效，也不一定是订阅端落后，而是逻辑解码正在为尚未提交的大事务暂存数据。订阅越多，同一份 WAL 就会被重复解码和暂存越多次。...
# AI # Go # Java
阅读全文

从 Python 库到全球存储平台：Habitat 如何支撑 10 亿 ChatGPT 用户

来源: openai.com 36
当一个存储组件只服务少量应用时，Python API、单区域部署和简单的对象读写通常已经足够。但随着 ChatGPT 用户规模扩大到 10 亿、请求峰值达到每秒 2200 万次，存储系统面对的就不再只是“能不能保存数据”，而是全球流量、容量增长、故障隔离和开发效率的综合考验。 OpenAI 分享的 Habitat 演进路径，核心变化是：它从一个 Pyt...
# AI # LLM # OpenAI
阅读全文

AI 写的 PostgreSQL 索引都能用，为什么还是会拖慢写入

来源: postgr.es 28
现在的编码代理已经很会写 PostgreSQL：GIN、GiST、部分索引、表达式索引、，以及以租户 ID 开头的复合索引，通常都能写对。真正的问题不再是索引无效，而是每个索引单独看都合理，叠到同一张高频更新表上却形成了昂贵的写放大。 一组针对 30 份模型生成 schema 的实验加载并检查了 838 个索引。只有 10 个找不到明确需求，其余大多具...
# AI # Docker # Go
阅读全文