标签

Go

Helion 接入 TPU:用同一套高层 Kernel DSL 走向 Pallas

来源: pytorch.org 52
ML Kernel 的性能工作,常常被两件事绑住:一是要理解底层硬件的执行模型,二是同一算法换到另一种加速器后,往往又要重写一遍实现。Helion 是面向 PyTorch 的高层 DSL,目标是让开发者以更高层的方式编写性能可移植的 Kernel。现在,Helion 与 Google 合作构建了 TPU 后端,可将 Helion Kernel 编译到 ...

用协作式时间切片填平 RL 流水线的 GPU 空窗

来源: cloud.google.com 60
大模型强化学习后训练并不总是缺 GPU,很多时候真正的问题是 GPU 已经分配,却在等待下一阶段。同步 RL 在 rollout 采样与梯度训练之间严格交替;异步 RL 虽然允许两者重叠,训练器仍可能因新鲜轨迹不足而停顿。llm-d 引入的协作式时间切片把这些阶段变成可调度单元,让多个独立 RL 作业共享同一组物理加速器。 初步基准显示,这种平台级复用...

智能体已经就位,但企业数据还没有:从记录系统走向行动系统

来源: cloud.google.com 39
企业把 AI 智能体推向生产时,真正卡住规模化的往往不是模型能力,而是数据能否提供可信的业务语境。智能体需要理解客户、订单、权限和业务规则,还要跨系统查询并执行操作。一次提示词就可能触发多轮检索、数据库查询和 API 调用,原本面向人工访问设计的数据平台,很容易在这种非线性负载下暴露延迟、成本和治理问题。 Google Cloud 在 Next 202...

Voicify 如何用 Gemini 把 AI 电话点餐做得更快、更准、更可靠

来源: cloud.google.com 52
餐厅电话一响,漏接可能意味着订单流失;医疗机构接到预约电话时,任何一个字段错误都可能影响后续服务。Voicify 的实践说明,企业级语音助手并不只是把大语言模型接到电话系统上,而是要同时解决交易准确性、流量尖峰、响应延迟以及安全合规问题。 Voicify 成立于 2018 年,最初希望为电话、聊天等渠道构建实用的语音驱动助手。疫情期间,团队将重点转向餐...

别把超级用户交出去:为第三方 DBA 设计 PostgreSQL 最小权限账号

来源: postgr.es 50
第三方 DBA 需要查看慢查询、定位锁等待,甚至在事故中终止异常会话,但这不意味着他们必须获得 PostgreSQL 超级用户。更稳妥的方案是创建一个专用登录角色,再用 PostgreSQL 的预定义角色逐项授予监控、会话管理和维护能力。 这个模型的重点不是“尽量少给权限”,而是把工作范围翻译成可审计的数据库权限:能观察什么、能执行什么、明确不能接触什...

uniTerm 1.5.2:不到 10MB 的跨平台运维工作台,强化背景与 RDP 体验

来源: oschina.net 51
uniTerm 1.5.2 的更新重点落在两个高频使用场景:终端背景更换与 RDP 功能优化。相比单纯增加协议数量,这类改进更贴近日常运维,因为工程师可能连续数小时盯着终端,也经常需要在命令行、文件传输和远程桌面之间切换。 uniTerm 基于 Wails v2、Go 和 Vue 3 构建,将远程终端、文件传输、远程桌面、数据库客户端、服务器监控与 A...

平台团队如何通过改善开发者体验推动合规落地

来源: infoq.com 53
平台工程团队承担合规治理时,很容易把目标理解成“让所有团队立即遵守统一流程”。但如果新流程依赖强制入口、文档不完整,并且没有解释规则解决了什么风险,开发者感受到的通常不是治理能力,而是交付阻力。 更有效的做法,是把合规设计成平台能力:简化规则,优先控制真正重要的风险,再通过预防、检测和沟通逐步推广。开发者不需要成为合规专家,也能在日常交付路径中做出正确...

Bijou64:用唯一编码让变长整数解析更安全

来源: infoq.com 35
变长整数编码很省空间,却容易把“同一个数字的多种字节表示”带进安全边界。Ink & Switch 发布的 bijou64,目标就是让每个数字只有一种字节表示,从编码层面消除 canonicality bug 这一类问题。类似缺陷曾出现在 PKCS#1、JWT 库和 Bitcoin 相关实现中;摘要还显示,bijou64 的解码速度约为 LEB1...

Django 6.1 RC1 发布:用两周时间完成升级验证与缺陷排查

来源: djangoproject.com 46
Django 6.1 Release Candidate 1 已经发布。这是正式版到来前集中验证新功能、可用性改进和项目兼容性的关键窗口。候选版本阶段也意味着字符串冻结,翻译人员可以据此提交稳定的本地化内容。 如果未来两周没有发现无法及时解决的重大缺陷,Django 6.1 正式版预计将在 8 月 5 日前后发布;若时间发生变化,Django 团队会在...

两周把 AI 助手接入照护流程:Pelago 的无服务器实践与工程边界

来源: aws.amazon.com 54
数字医疗公司面临一个很现实的扩展难题:会员数量增长后,如何继续提供有上下文、有温度的个性化互动,同时不让照护团队被重复沟通压垮。专注于物质使用障碍支持的 Pelago,使用 AWS 构建了 AI 助手,并在两周内将概念推进到实际照护场景。这个案例值得关注的地方,不只是模型能力,而是团队如何用无服务器架构缩短交付路径,并把风险控制嵌入工作流。 医疗 AI...