2026-06-09
来源: realpython.com
57
对接一个大模型 API 已经够烦了——不同厂商的端点、认证方式、请求格式各不相同。当你的应用需要同时调用 GPT-4o、Claude、Gemini、Mistral 等多个模型时,维护成本直线上升。OpenRouter 的思路很简单:一个端点、一个 key,路由到上百个模型,还自带故障回退和提供商策略。下面拆解它的核心机制,并给出可直接跑的 Python...
2026-06-09
来源: realpython.com
53
向量数据库正在从"概念热词"变成工程日常。ChromaDB 作为轻量级、Python-first 的向量存储方案,适合本地开发和小规模 RAG(检索增强生成)场景。但真正上手时,很多人会卡在:嵌入怎么选?余弦相似度到底在算什么?collection 查询的参数怎么配?这篇文章把这些问题拆开,配上可以直接跑的代码。 嵌入(embedding)是把一段文本...
2026-06-06
来源: spring.io
76
Spring AI 从 1.0 时代的"试试看"项目,正在蜕变为一个面向生产环境的 AI 应用开发栈。2.0.0-RC1 的发布标志着这条路线的第一个正式里程碑——API 稳定、模块拆分清晰、对主流模型厂商的适配基本到位。如果你之前观望过 Spring AI 但觉得接口还在频繁变动,现在是重新评估的好时机。 2.0 的核心改动不是"加几个新模型",而是...
2026-06-06
来源: docker.com
56
一份行业报告给出了两组值得对读的数字:60% 的组织已经把 AI Agent 推上了生产环境,但 40% 的组织把安全与合规列为继续扩规模的最大障碍。 adoption 跑在前面,oversight 还在后面追——这个落差,就是 AI 治理真正要解决的问题。 AI 不再只是推荐商品或生成文案。它正在审批贷款、调度资源、自动回复客户、甚至直接执行操作。决...
2026-06-05
来源: postgr.es
59
Postgres 社区花了二十年说"绝不",然后加了一个功能,和 hint 做的事一样,只是换了个名字。Postgres 19 的 feature freeze 包含两个新的 contrib 模块: 和 。官方说法是——这叫"plan advice",不是 hint。技术上正确,是最好的正确。 这件事值得好好聊聊,不只是因为功能本身,更因为它背后的漫长...
2026-06-05
来源: realpython.com
62
一个典型的 Python Docker 镜像,起步就是 900MB 甚至更大。大部分体积来自你根本不会用到的东西——系统包、pip 缓存、编译中间产物、测试文件。镜像越大,拉取越慢,部署越贵,安全扫描的噪音越多。这篇文章把常用的瘦身手法逐个拆开,给出可以直接复制改造的 Dockerfile 和命令。 用最朴素的方式打包一个 Flask 项目: 构建完 ...
2026-06-05
来源: infoq.com
104
在端侧跑大模型,推理速度一直是最大的拦路虎。Google 最新发布的 LiteRT-LM 框架引入了对 Gemma 4 Multi-Token Prediction(MTP)drafter 的原生支持,在本地推理场景下最高可达 2.2 倍加速。与此同时,框架的 API 覆盖面也在拓宽——新增了 Swift 和 JavaScript 绑定,不再局限于 K...
2026-06-05
来源: infoq.com
71
端侧跑大模型,瓶颈从来不是模型有多聪明,而是 token 一个一个往外蹦的速度够不够用。Google 最新发布的 LiteRT-LM 把 Gemma 4 的 Multi-Token Prediction(MTP)drafter 原生接进推理引擎,实测推理速度最高提升 2.2 倍——不是靠砍精度,而是靠更聪明的投机解码策略。同时,框架的 API 版图也在...
2026-06-05
来源: infoq.com
63
从 2016 年诞生到 2025 年终于推出 1.0,TypeORM 走了一条漫长的路。这个被无数 NestJS 项目默认绑定的 ORM,长期停留在 0.x 版本,维护节奏一度让人担忧。1.0 的到来不只是版本号的跃迁——它意味着平台要求的现代化、废弃 API 的清理、安全与迁移流程的加固,以及社区维护信心的重建。 TypeORM 早期采用"0.x 永...
2026-06-05
来源: oschina.net
63
自托管 AI 智能体平台的选择正在变多。OpenClaw 打开了"Agent 即服务"的思路,但对 Go 技术栈的团队来说,Python 生态的依赖链始终是个部署负担。今天正式发布 v1.0 的 TPClaw,由 TeamBuf 和 RuleGo 团队联合打造,用 Go 从零写起,把规则引擎和智能体框架揉在一起——核心一句话:规则链即智能体,智能体即服...