2026-09-05
来源: aws.amazon.com
37
HyperPod InstantStart 是一个开源控制平面,将 Amazon EKS 的 Kubernetes 编排能力与 Amazon SageMaker HyperPod 的托管能力组合起来。它解决的重点不只是“让 AI Agent 执行命令”,而是让集群初始化、容量管理、训练、推理和存储操作进入同一套受约束、可重复的执行路径,并同时提供 We...
2026-09-05
来源: aws.amazon.com
36
把 PDF 直接放进知识库,并不等于文档已经被正确理解。面对跨页表格、扫描图片、多栏排版和字段密集的水电账单,检索质量往往先受制于文本提取,而不是大语言模型本身。 一种更稳妥的处理方式,是把 Amazon Textract 放在 Amazon Bedrock Knowledge Bases 之前:先提取页面文本、表格与表单字段,再将标准化结果写入知识库...
2026-09-05
来源: aws.amazon.com
44
大规模灾难恢复的难点,不只是把流量切到备用区域,而是在高压环境下同时保证决策正确、操作可控、过程可追溯。Intuit 构建的 EWOK Agent 展示了一种实践方向:值班工程师用自然语言提出生产故障转移请求,智能体负责理解意图和协调执行,同时让每一步操作保持可审计、符合策略并具备安全边界。 这类系统的关键不是让大模型直接操作生产环境,而是把它放在受约...
2026-09-05
来源: cloud.google.com
40
对持续运行的大规模分析平台来说,Spark 作业能否按时开始,往往不只取决于代码和数据,还取决于指定规格的虚拟机当时是否有库存。固定机型、固定可用区的配置看似确定,遇到区域容量波动时却可能让整个数据管道停在集群创建阶段。 Yahoo 在 Google Cloud Managed Service for Apache Spark(原 Dataproc)中...
2026-09-05
来源: cloud.google.com
40
数据库迁移真正棘手的部分,往往不是把历史数据复制到新库,而是在生产服务持续处理请求时,让新旧存储长期保持一致。Google 财务工程团队在迁移到 Spanner 时,需要为 30 多个 DAO 补齐转换器、双写分支、错误处理和单元测试。逐个手工修改不仅耗时,还容易在时间戳、空值和字段映射上产生细微偏差。 他们采用的办法,是先把迁移模式标准化,再通过 A...
2026-09-04
来源: cloud.google.com
42
把大语言模型从实验环境搬到生产系统后,模型参数量并不能单独决定吞吐和成本。同一套 TPU、同一个服务框架,面对“长输入、短输出”的分类请求和“短输入、长输出”的生成请求,可能呈现完全不同的扩展曲线。 这组测试在 Google Cloud TPU v6e 上运行 Gemma 3 12B 与 27B,使用 GKE Autopilot、单主机 2×2 TPU...
2026-09-04
来源: infoq.com
36
认证系统很容易变成客户端里的条件判断迷宫:不同地区支持不同登录方式,高风险请求需要额外验证,新用户与老用户走不同路径,Web、iOS 和 Android 又分别实现一遍。Airbnb 将认证架构改造成服务端驱动流程,并通过策略选择验证挑战。根据来源摘要,这套 Flexible Authentication 系统减少了 60% 的认证相关代码,使 Web...
2026-09-04
来源: realpython.com
48
让 AI 写一个排序函数并不难,真正有区分度的是那些规模很小、要求却不完全明确的任务。GPT-6 Astra 接受了一组带有 Real Python 风格的“手感测试”:用 Turtle 画一条正在读书的蟒蛇、判断一段 Python 代码的年代、完成一次微小修改,以及处理一个并不存在的函数。 这四类任务分别触碰了生成式编程助手的不同能力:把自然语言转成...
2026-09-04
来源: realpython.com
40
性能工程不该等到用户投诉“系统变慢”才开始。围绕《Fast by Default: Practical Performance Engineering》作者 Den Odell 的讨论提出了一个更实用的问题:怎样在开发之初规划 Python 应用的性能,并把有限的工程资源投入真正影响用户体验的地方?答案通常不是到处做微优化,而是建立性能预算、用剖析数据...
2026-09-04
来源: infoq.com
29
GPU 训练越来越快,数据加载却仍常沿用一条昂贵的老路径:对象存储下载到本机、写入 NVMe、CPU 解码、转换成训练格式,再复制到 GPU。Onur Satici 介绍的 Vortex 试图缩短这条链路。它是 Linux Foundation 旗下的开源列式文件格式,通过级联轻量编码、基于布局的分段裁剪和零拷贝内存管线,让训练任务可以从 S3 持续向...