2026-05-29
来源: my.oschina.net
47
手机官网的购物场景有一个长期痛点:用户面对几十款机型、上百种配置组合,往往在参数对比页反复跳转,最终决策链路长、跳出率高。vivo 团队选择用 AI 导购来缩短这条链路——不是做一个"万能聊天机器人",而是先划定能力边界,再搭建多层架构,最后逐步落地到真实用户场景。整个过程值得任何想做垂直场景 AI 助手的团队参考。 很多 AI 产品失败的原因不是技术...
2026-05-29
来源: oschina.net
44
Arm 把内部安全研究团队打磨多年的漏洞发现框架 Metis 完全开源了。这不是又一个"AI 扫描器"的 demo——它在 Arm 内部 130 多个软件项目里已经跑出真阳性率提升 10 倍、误报降低 50% 的硬数据,并计划 2026 年底前覆盖 Arm 全系产品。对于做安全审计、代码扫描的工程师来说,这个架构值得拆开看一遍。 静态分析工具(Cove...
2026-05-29
来源: oschina.net
91
Agent 应用从 demo 走向生产,最大的拦路虎不是模型能力不够,而是推理太慢。多轮对话、工具调用、搜索反馈——每一轮都在等模型吐字,用户体感直接崩盘。阶跃星辰刚开源的 Step 3.7 Flash,用稀疏 MoE 把总参数推到 196B,但每步只激活 11B,换来最高 400 Tokens/s 的生成速度,瞄准的就是这个痛点。 Step 3.7 ...
2026-05-29
来源: oschina.net
44
领课教育系统(roncoo-education)刚发布了 v26.0.0。这个项目不是又一个"脚手架 demo",而是从领课网络多年真实运营的在线教育平台中提炼出来的产品——课程点播、视频云对接、附件管理这些功能,都是踩过坑后才定下来的设计。如果你正在评估或搭建在线教育平台,它提供了一个可直接参考的微服务落地方案。 系统采用前后端分离模式: 前台:以 ...
2026-05-29
来源: aws.amazon.com
44
SageMaker AI 现在支持托管 MLflow Server,但默认的访问方式要么走 SageMaker Studio 内部,要么依赖 AWS IAM 策略直接暴露端点——两者都不适合直接面向团队内部的非 AWS 用户。这篇文章给出了一套完整方案:React 前端嵌入 MLflow UI,Flask 反向代理自动签注 SigV4 请求,整栈用 C...
2026-05-29
来源: dropbox.tech
32
代码补全、智能搜索、自然语言查错——这些 AI 辅助工具已经渗透进大多数工程师的日常。但 Dropbox 的工程团队正在推进一个更激进的转向:不再把 AI 当作"帮人写代码的助手",而是构建能够独立执行有边界任务的 agentic 系统,并为此搭建支撑平台。这意味着工程生产力的定义本身正在被重写。 辅助工具的交互模型是"人提问,AI 回答"。工程师写一...
2026-05-28
来源: slack.engineering
45
2023 年初,Slack 面对一个底层问题:如何在企业级规模上服务大语言模型,同时满足客户对安全、可靠性和性能的预期。三年间,他们从最基础的基础设施起步,逐步演进到一套成熟的多云编排架构。这不是追逐新模型的炫技,而是要构建一个能抵御区域级故障、在云厂商之间灵活调度的系统。 LLM 推理的负载特征和传统 Web 服务截然不同——单次请求耗 GPU 算力...
2026-05-28
来源: infoq.com
36
你监控每个服务的 p99 都在 200ms 以内,但网关层的 p99 却飙到 800ms——这不是监控出了问题,而是扇出架构里"慢但没挂"的请求在层层叠加。Prathamesh Bhope 在这篇文章里提出了一套自适应对冲请求(adaptive hedged request)方案:用 DDSketch 实时估算分位数决定何时发对冲请求,用滑动窗口应对分...
2026-05-28
来源: my.oschina.net
44
每次架构评审会上,总有人抛出这个问题:"我们用的是架构风格还是架构模式?"争论一轮下来,设计图没画完,术语倒是厘清了。但系统还是那个系统,代码还是那些代码。 原文的核心观点很直接:过度区分架构风格和架构模式没有实际意义。风格也好,模式也罢,最终都是在回答同一个问题——如何从高层次指导系统构建,同时满足更多质量属性。与其在概念上划界,不如把注意力放回驱动...
2026-05-28
来源: oschina.net
33
企业做 AI 应用,最怕的不是模型不够强,而是平台撑不住。架构臃肿耦合、配置流程繁琐、AI 能力碎片散落、数据运营体系缺失——这些老问题让不少团队在智能体落地时反复踩坑。qKnow 3.0 把整个中台架构推倒重来,核心思路只有一个:插件化。能力按需挂载,业务按场景组装,部署按规模弹性伸缩。 传统智能体平台通常把知识检索、对话引擎、任务编排、数据统计全部...