来源: oschina.net
34
GPU 推理服务的运维痛点一直很明确——模型版本管理混乱、多卡调度靠人工、API 对接各家格式不一。HeteroFlow V2 在 5 月 22 日上线的推理服务模块，试图把从"模型发现"到"对外 API"这条链路全部自动化，核心抓手是 TaskGroup 生命周期管理和内置 OpenAI 兼容网关。官方给出的目标很直接：让 TOKEN 产量翻倍。 传...
来源: infoq.com
56
生产环境中跑大模型应用的人，最近几年都有一个共同感受——从 demo 到上线之间有一道巨大的沟。RAG 检索不准、agent 行为不可控、评估体系缺失、上线后延迟和成本飙升……这些问题不是靠换一个模型就能解决的。InfoQ 刚上线了一个为期五周的在线 AI Engineering 认证项目，面向已经在生产系统里做 AI 的资深从业者，覆盖 RAG、ag...
来源: infoq.com
76
Discord 的基础设施团队规模不大，却要管着支撑数亿用户消息的 ScyllaDB 集群。以前做一次节点替换或集群扩容，几个人手动操作要耗好几天。他们干脆造了一个内部编排框架——Scylla Control Plane（SCP），把大规模 ScyllaDB 管理变成可编程的自动化流程。 Discord 从 Cassandra 迁移到 ScyllaDB...
来源: my.oschina.net
32
Antigravity 2.0 发布的第二天，不少开发者打开电脑，发现自己用了几个月的 IDE 界面凭空消失了。取而代之的是一个对话式提示框——没有升级预告，没有版本回退入口，也没有"暂时用旧版"的开关。你昨天还在敲代码的窗口，今天变成了一个聊天窗口。 这不是某个实验性功能的灰度测试，而是全量推送。用户对工具的掌控感，在一个早晨被彻底抽走。 消费者产品...
来源: oschina.net
31
八年前，Julia Evans 写过一篇热情洋溢的文章，讲述她发现 Tailwind 时的喜悦。彼时她完全不知道如何组织 CSS，在"一团乱麻"和"Tailwind"之间，她毫不犹豫地选择了后者。Tailwind 帮她搭建了大量小型网站。八年后的今天，她花了一周时间，把几个网站从 Tailwind 迁移到语义化 HTML + 原生 CSS，并把整个过程...
来源: infoq.com
46
大模型每次对话都从零开始——你反复粘贴同一份业务规则、同一段系统提示词，模型照忘不误。xAI 最新发布的 Grok Skills 直接对准了这个痛点：一次定义，全局生效。配合 Grok 4.3 Responses API 对 Tool Calling 的升级，开发者终于可以把"模型懂什么"和"模型怎么调用外部工具"这两件事分别管起来。 传统做法是把所有...
来源: oschina.net
49
B站2026年Q1财报放出了一个信号：总营收74.7亿元，净利润2.02亿元——去年同期还在亏1070万。这不是靠砍成本硬挤出来的利润，而是用户增长、创作者收入、商业变现三条曲线同时向上交叉的结果。 日均活跃用户1.15亿，同比增长8%。更值得关注的是日均使用时长119分钟，创历史新高。接近两小时的日均停留，说明内容供给的密度和粘性已经到了一个新阶段—...
来源: oschina.net
50
NVIDIA 做了一件不太寻常的事：把 build.nvidia.com 背后跑的整套函数计算平台——NVCF（NVIDIA Cloud Functions）——以 Apache 2.0 协议完整开源。不是 SDK，不是客户端库，不是"参考实现"，而是控制平面、调用平面、计算平面、CLI、Helm charts、数据库迁移脚本，全部丢进一个单体仓库 。...
来源: infoq.com
35
Cloudflare 刚把 Browser Run 从第三方托管迁移到自家 Containers 平台上跑，并发能力翻了 4 倍、响应时间砍掉一半。这件事本身是个性能升级，但更值得注意的是——它把 Cloudflare 的 Agent 基础设施拼到了第六层，从计算到交易，一条链路全部收在边缘网络里。 Browser Run 是 Cloudflare 给...
来源: infoq.com
31
Cloudflare 的 Browser Rendering 一直是开发者做网页抓取、自动化测试时的热门选择，但底层跑的是第三方托管方案，并发和延迟都有天花板。最近 Cloudflare 把整个 Browser Run 搬到了自家 Containers 平台上，并发能力翻了 4 倍、响应速度快了 50%。更重要的是，这一步把 Cloudflare 的 ...