标签

AI

用 Flask 代理打通外部访问 Amazon SageMaker MLflow 的 REST 通道

来源: aws.amazon.com 42
很多团队在向云迁移的过程中，都会碰到一个现实问题：本地训练脚本、调度系统、监控面板已经围绕 MLflow 搭好了整套流程，但一旦把实验追踪服务搬到 Amazon SageMaker MLflow，外部系统就得装 MLflow SDK、配 VPC 网络才能连上——这对还在过渡期的组织来说改动面太大。AWS 最近给出的方案是：在 SageMaker MLf...
# AI # AWS # Go
阅读全文

用 LangSmith 在 AWS 上评估深度 Agent：从离线测试到线上监控的完整路径

来源: aws.amazon.com 40
当你把一个 Agent 从 demo 推到生产环境，最大的问题不是"它能不能跑"，而是"它跑得对不对、稳不稳"。深度 Agent——那种会多步推理、调用工具、自己纠错的 Agent——比单轮 LLM 调用难评估得多：一次对话可能触发 5 次工具调用，中间任何一步偏了，最终结果就废了。这篇文章把 LangChain 在深度 Agent 评估上的经验和 A...
# AI # AWS # LLM
阅读全文

给 Agent 建一套能跟着长大的测试基准——Bedrock AgentCore 数据集管理实践

来源: aws.amazon.com 48
你刚上线一个智能客服 Agent，头两周用户好评率 85%，第三周突然跌到 60%。你翻日志发现是新加的退款流程把对话搞乱了——但你改完代码后，怎么确认它真的修好了？下次再改，又怎么保证不踩同一个坑？ 靠实时流量看指标是必要的，但实时数据本身在变：用户问题分布变了、业务规则变了、甚至模型版本变了。要判断"Agent 到底有没有进步"，你还需要一块不动的...
# AI # AWS # LLM
阅读全文

从代码补全到任务执行：Dropbox 如何重构 AI 时代的工程生产力

来源: dropbox.tech 34
代码补全、智能搜索、自然语言查错——这些 AI 辅助工具已经渗透进大多数工程师的日常。但 Dropbox 的工程团队正在推进一个更激进的转向：不再把 AI 当作"帮人写代码的助手"，而是构建能够独立执行有边界任务的 agentic 系统，并为此搭建支撑平台。这意味着工程生产力的定义本身正在被重写。 辅助工具的交互模型是"人提问，AI 回答"。工程师写一...
# AI # Dropbox # LLM
阅读全文

Claude Opus 4.8 登陆 Amazon Bedrock：智能体系统与生产推理的实战接入

来源: aws.amazon.com 31
Anthropic 的 Claude Opus 4.8 现已在 AWS Amazon Bedrock 上正式可用。这次更新不只是"又多了一个模型选项"——Opus 4.8 在推理深度、指令遵循和长上下文处理上的改进，让它特别适合两类场景：需要多步决策的 agentic 系统，以及高吞吐的生产推理服务。对于在 Bedrock 上构建 AI 应用的工程师来...
# AI # AWS # LLM
阅读全文

用 Amazon Q 和 Snowflake Cortex 把 AML 警告排查从 90 分钟压到 5 分钟以内

来源: aws.amazon.com 41
反洗钱（AML）审查是金融机构里最让人头疼的重复劳动之一。一笔可疑交易触发警报后，合规分析师要翻客户历史、比对交易模式、查关联账户、写调查报告——一个警报从打开到关闭，30 到 90 分钟是常态。警报量大、人力有限，积压成了日常。 Amazon Q Business 的 Flows 功能和 Snowflake Cortex AI 的组合，通过 MCP（...
# AI # AWS # 云平台
阅读全文

Slack AI 的多云之路：在企业级规模下可靠地服务大模型

来源: slack.engineering 46
2023 年初，Slack 面对一个底层问题：如何在企业级规模上服务大语言模型，同时满足客户对安全、可靠性和性能的预期。三年间，他们从最基础的基础设施起步，逐步演进到一套成熟的多云编排架构。这不是追逐新模型的炫技，而是要构建一个能抵御区域级故障、在云厂商之间灵活调度的系统。 LLM 推理的负载特征和传统 Web 服务截然不同——单次请求耗 GPU 算力...
# AI # LLM # Slack
阅读全文

Cloudflare 如何搭建统一数据平台 Town Lake 及其上的 AI Agent Skipper

来源: blog.cloudflare.com 42
Cloudflare 每天处理全球数十亿请求，日志、指标、事件数据散落在数十个系统中。工程师想查一个问题的根因，往往要跨 S3、ClickHouse、Kafka、Postgres 反复跳转。Town Lake 的出现，就是为了终结这种割裂——把所有分析数据统一到一处，再让 AI Agent Skipper 直接在上面回答问题。 Cloudflare 内...
# AI # Cloudflare # LLM
阅读全文

需求分析从周级降到小时级：用 Codex 构建代理式组织的实战路径

来源: openai.com 35
软件交付中最慢的环节往往不是写代码，而是把模糊的业务需求拆解成可执行的技术任务。Endava 近期分享的工程实践给出了一个极具冲击力的数字：借助 Codex 打造“代理式组织”，他们将需求分析周期从几周压缩到了几小时。 这不再是 IDE 里按 Tab 键补全代码的单点提效，而是整个交付链路的重构。当 Agent 拥有规划能力，开发团队的工作流、分工阵型...
# AI # LLM # OpenAI
阅读全文

用大模型分析 120 万条聊天记录：我是个糟糕的朋友吗？

来源: oschina.net 40
一位开发者花了二十年，在 Telegram、VK、Instagram、Facebook 等平台上积累了超过 120 万条个人聊天记录。然后他做了一件大多数人不敢做的事——把这些记录喂给大模型，让它回答一个问题："我是个糟糕的朋友吗？" 这个叫 "Am I a Bad Friend?" 的项目，本质上是一个"数字人生档案馆"。它不只是数据可视化，更像是对...
# AI # 全栈 # 开源
阅读全文