标签

架构设计

DoorDash 如何用 Envoy 与 Valkey 构建 150 万 RPS 的透明代理缓存

来源: infoq.com 23
在微服务系统中,同一份实体数据往往会被多个服务反复读取。即使单次 RPC 很快,重复请求叠加后仍会消耗网络、连接池和下游计算资源。DoorDash 为此构建了 Entity Cache:一个运行在服务网格中的透明代理缓存平台,以 Envoy 承接服务间流量,以 Valkey 保存缓存数据,并通过事件驱动失效、故障处理和性能优化,将整体规模推进到每秒超过...

从听懂到做成:如何选择 InfoQ 八月的三类技术认证训练营

来源: infoq.com 37
InfoQ 已开放三期八月开班的在线认证训练营,周期均为五周。三个方向分别聚焦架构、工程领导力,以及 AI 安全与隐私,并由 Luca Mezzalira、Michelle Brush 和 Katharine Jarmul 三位资深实践者带领。与单纯观看演讲不同,这些训练营强调把 QCon 演讲中的框架带回参与者自己的工作场景,在连续数周内完成应用和验...

DjangoAdmin FastAPI+EleVue v2.7.2:以回归验证为核心的小版本升级指南

来源: oschina.net 25
DjangoAdmin FastAPI+EleVue 版本发布 v2.7.2。根据发布摘要,这次更新的重点是修复近期用户反馈的问题,并未列出新增模块或接口变更。对于已经在使用该框架的团队,这更像一次维护性升级:重点不在体验新功能,而在验证问题是否消失、既有业务是否受到影响。 该框架采用 FastAPI、Vue、ElementUI 和 MySQL 等技术...

RXThinkCMF v2.6.0 发布:Laravel 10 与 Vue 3 后台框架的稳态更新

来源: oschina.net 28
RXThinkCMF Laravel10+AntdVue 版本发布 v2.6.0。本次更新的重点是修复近期用户反馈的问题,没有引入大规模功能调整。对于已经用于后台管理系统的项目,这类版本更强调稳定性:减少已知故障,同时尽量控制升级带来的行为变化。 从技术组合看,RXThinkCMF 以 PHP、Laravel 10、Vue 3、Ant Design V...

Netflix 式内部 LLM Serving:从模型接入到可靠推理平台

来源: netflixtechblog.com 48
把大语言模型接入公司内部系统,难点通常不在于启动一个推理进程,而在于让它像数据库、消息队列一样成为稳定的基础设施:调用方不必关心模型部署在哪里,平台团队能够控制成本、延迟和权限,业务团队也能持续替换模型而不重写应用。围绕 “In-House LLM Serving at Netflix” 这一主题,可以把内部 LLM Serving 理解为一套完整的平...

在 AWS 上构建远程 MCP Server:从安全边界到弹性扩缩容

来源: aws.amazon.com 44
Smartsheet 构建远程 MCP Server 的案例,重点不只是“让模型调用几个工具”,而是如何把 MCP 服务纳入成熟的云基础设施:身份认证、权限治理、弹性扩缩、持续部署,以及面向 AI 工作负载的专门优化。远程 MCP 一旦连接企业数据和写操作,就应当按生产 API,而不是按实验性提示词组件来设计。 一个典型的 AWS 部署可以把流量链路拆...

在 AWS 上部署 EDC:从成本基线到容量优化的实践方法

来源: aws.amazon.com 34
在 AWS 上部署 Eclipse Dataspace Components(EDC)连接器时,困难往往不是让服务成功启动,而是回答三个持续影响预算的问题:需要多大的基础设施、不同环境应该如何配置,以及业务增长后成本会怎样变化。缺少可复用的基准数据时,团队很容易按生产峰值配置所有环境,或者只关注计算实例价格,忽略网络、存储、日志和数据库等费用。 成本优...

在 AWS 上生产化部署 EDC:隔离、托管服务与分层安全

来源: aws.amazon.com 32
把 Eclipse Dataspace Components(EDC)连接器部署到 AWS,真正困难的部分通常不是启动容器,而是划清信任边界:哪些接口可以暴露、控制流与数据流如何隔离、状态保存在哪里,以及某一层防护失效后还有什么机制可以阻止横向移动。面向生产环境,架构应围绕隔离、托管服务和分层安全做明确取舍。 EDC 连接器通常同时承载协商、策略执行、...

在 AWS 上理解 Eclipse Dataspace Components:从数据空间协议到控制面与数据面

来源: aws.amazon.com 39
企业之间共享数据,难点通常不在“把文件传过去”,而在于谁能发现数据、依据什么条款使用、如何建立信任,以及传输后怎样保留审计记录。Eclipse Dataspace Components(EDC)试图解决的正是这组跨组织问题:参与方保留各自的数据控制权,通过标准协议协商合同,再按约定完成数据传输。 这套系列内容分三部分,从 IDSA、Dataspace ...