分类

文章

vLLM 的 Transformers 建模后端:把模型代码跑到接近原生速度

来源: huggingface.co 24
vLLM 生态里,“Transformers modeling backend”这个方向值得关注:它瞄准的是一个很实际的痛点,开发者希望复用 Hugging Face Transformers 里的模型定义和生态接口,同时又想拿到 vLLM 在推理吞吐、调度和显存利用上的性能优势。标题里的 native-speed 说明重点不只是“能跑”,而是尽量接近...

PostgreSQL 30 年:从研究项目到数据库默认底座

来源: postgr.es 21
1996 年 7 月 8 日,PostgreSQL 社区接过 Postgres95 留下的火种。三十年后,它已经不只是一个“开源数据库选项”,而是很多团队设计后端系统时的默认起点:应用数据库、分析型扩展、队列、全文检索、地理数据、向量检索,越来越多能力都围绕它展开。 PostgreSQL 的故事有一个很工程化的转折点:它从 Berkeley 的研究项目...

死锁不是小概率异常:它如何拖垮数据库,以及应用该怎么收手

来源: planetscale.com 45
死锁听起来像数据库内部的小插曲:两个事务互相等锁,其中一个被数据库杀掉,应用重试一下就完了。现实里,它经常是停机事故的前奏。查询写得不稳、事务持锁太久、应用无限并发冲击同一批行,都会把一次死锁扩大成连接池耗尽、请求排队、数据库 CPU 飙升,最后变成用户可见的不可用。 典型死锁并不复杂:事务 A 锁住了 ,等待 ;事务 B 锁住了 ,等待 。数据库会检...

GPT-Live 把语音交互推向实时对话

来源: openai.com 35
GPT-Live 被定位为新一代语音模型,目标是让人与 AI 的语音互动更自然,并且已经用于 ChatGPT Voice。这件事的重点不只是“能听能说”,而是语音模型开始更接近一场真实对话:更低的等待感、更自然的轮次切换,以及更适合移动端、客服、陪练和车载等场景的交互形态。 过去很多语音 AI 系统是拼装出来的:先 ASR 把声音转成文字,再把文字交给...

从 Hugging Face 一键跳到 SageMaker Studio:把模型试验拉进 AWS 工作台

来源: huggingface.co 35
Hugging Face 模型页面到 Amazon SageMaker Studio 的“一键”入口,解决的是一个很实际的问题:开发者在模型社区里发现模型之后,不想再手动复制模型 ID、配置 Notebook、安装依赖、再拼部署脚本。这个入口把“发现模型”和“在 AWS 里继续实验”接了起来,让原型验证更少卡在环境准备上。 对机器学习团队来说,Hugg...

从 PostgreSQL 换到 ClickHouse:高吞吐缓存查询的现实取舍

来源: infoq.com 29
Momentic 为 AI 驱动的软件测试平台重构了缓存系统:规模达到每天超过 200 万次查询、总计约 200 亿条记录,同时把平均响应延迟维持在约 250 ms。关键变化不是给 PostgreSQL 再加一层补丁,而是把缓存查询负载迁移到列式数据库 ClickHouse。 这类迁移值得后端团队关注,因为它不是“数据库谁更强”的抽象争论,而是一个典型...

用 ClickHouse 扛住 200 万次/天缓存查询:从 PostgreSQL 迁移的工程取舍

来源: infoq.com 37
Momentic 在重构其 AI 软件测试平台的缓存系统时,把存储层从 PostgreSQL 迁到列式数据库 ClickHouse,用来支撑每天超过 200 万次查询、总量约 200 亿条缓存记录,并把平均响应延迟维持在约 250 ms。这个案例值得关注,不是因为“PostgreSQL 不行”,而是因为缓存查询的形态一旦变成大规模读、宽表扫描、按条件过...

把 QuickSight 的业务语义从 Topics 迁到数据集层

来源: aws.amazon.com 46
Amazon QuickSight 正在把业务上下文的重心从 legacy Topics 推向更靠近数据本身的 semantic datasets,也就是 Dataset Enrichment。变化的关键不只是“入口换了”,而是语义定义的位置变了:字段别名、业务词汇、默认聚合、字段描述这类知识,不再只服务某个 Topic,而是沉到数据集层,供更多分析体...

Amazon QuickSight 多数据集关系:别再把所有表提前拍平

来源: aws.amazon.com 38
Amazon QuickSight 新增的 Multi-Dataset Relationships 让 Topic 可以理解多个数据集之间的逻辑关系,并在查询运行时执行 join。这个变化的核心不是“多了一个 join 功能”这么简单,而是 BI 建模方式从“提前做一张大宽表”转向“保留业务表边界,在语义层声明关系”。 对做 QuickSight Q、...

Amazon QuickSight 多数据集关系建模:从表结构到 SQL 落地

来源: aws.amazon.com 39
Amazon QuickSight 的多数据集关系建模,不只是把几张表拖到一起。真正麻烦的地方在于:不同业务表的粒度不同、维度表可能复用、事实表之间不一定能直接 join,错误的模型会让看板出现重复计数、指标膨胀或过滤器失效。来源文章的重点从概念转向模式:针对不同 schema,梳理表结构、适用场景、实现步骤、示例 SQL,并讨论高级场景下需要额外建模...