标签

分布式系统

MAPS:如何在大规模场景下实现多模态内容个性化

来源: netflixtechblog.com 48
流媒体平台给用户展示的并不只是一个标题,而是一整套内容资产:封面、横幅、预告片、字幕、音频、剧照和文案。不同用户看到同一部作品的不同素材,可能直接影响点击、播放和继续观看。 “MAPS: Netflix’s Multimodal Asset Personalization at Scale”这个标题指向一个重要工程问题:如何把多模态资产纳入个性化系统,...

两个 Flink 自动扩缩容器的故事:如何选择适合你的弹性方案

来源: netflixtechblog.com 33
Flink 作业的自动扩缩容,表面上都是“指标高了就扩容,指标低了就缩容”,真正落地时却会遇到两个完全不同的问题:一类方案理解 Flink 内部的反压、处理速率和并行度,另一类方案只负责根据外部指标调整 Kubernetes 工作负载。它们都能改变副本或并行度,但决策依据、调整粒度和风险边界并不相同。 本文把这两类方案称为“两个 Flink autos...

为分析系统建模设备能力:从设备型号推导可解释的能力维度

来源: netflixtechblog.com 45
分析设备数据时,只记录“手机、平板、桌面端”通常不够。产品团队真正关心的往往是:设备能否使用生物识别、是否支持某类网络、屏幕是否适合复杂交互,以及某项功能不可用究竟是设备限制、系统限制,还是用户尚未授权。 来源只给出了“为分析建模设备能力”这一主题,没有限定具体平台或数据仓库。下面以通用事件分析系统为假设,给出一种可以这样实践的数据模型:将稳定的硬件能...

GenRec:如何把推荐系统改造成 LLM 原生架构

来源: netflixtechblog.com 57
“GenRec: Towards LLM-Native Recommendation at Netflix”这个标题指向了一种重要变化:大语言模型不再只是给传统推荐结果生成一句解释,而是开始进入推荐链路的核心,用统一的语言接口理解用户意图、组织候选内容,并输出可执行的推荐决策。 由于来源摘要没有披露 Netflix 的具体架构、模型或线上指标,下面不会...

Netflix 式内部 LLM Serving:从模型接入到可靠推理平台

来源: netflixtechblog.com 82
把大语言模型接入公司内部系统,难点通常不在于启动一个推理进程,而在于让它像数据库、消息队列一样成为稳定的基础设施:调用方不必关心模型部署在哪里,平台团队能够控制成本、延迟和权限,业务团队也能持续替换模型而不重写应用。围绕 “In-House LLM Serving at Netflix” 这一主题,可以把内部 LLM Serving 理解为一套完整的平...

大规模服务拓扑怎么建:从遥测数据到可查询的依赖图

来源: netflixtechblog.com 56
当微服务数量从几十个增长到数千个,服务拓扑就不再是一张手工维护的架构图。它需要持续接收遥测数据,识别服务之间的调用关系,聚合海量边记录,并在故障排查时快速回答“谁在调用谁”“影响会扩散到哪里”。 来源仅提供了标题,没有给出具体实现细节。下面不推断原系统使用的组件,而是围绕大规模服务拓扑通常面对的架构问题,给出一套可以这样实践的参考方案。 服务拓扑可以抽...

GenPage:用生成式方法搭建个性化首页的工程想象

来源: netflixtechblog.com 48
Netflix 的首页不是一张静态海报墙,而是由推荐、排序、文案、视觉资产、实验策略和设备约束共同决定的产品界面。仅从“GenPage: Towards End-to-End Generative Homepage Construction at Netflix”这个标题看,GenPage 关注的不是单点推荐模型,而是把“首页构建”推进到端到端生成式流...