标签

LLM

让 RAG 不再答旧 API：从分块、向量检索到 HNSW 多路召回

来源: my.oschina.net 48
大模型不知道你的代码库刚刚升级，也不知道内部优惠券退款流程写在哪份文档里。没有外部上下文时，它会用训练阶段见过的模式补全答案，于是可能给出 v1.x 的旧 API，或为内部流程编造看似合理的步骤。RAG（Retrieval-Augmented Generation，检索增强生成）的工作，是在生成前先从可信资料中找出相关证据，再把证据交给模型回答。 但 ...
# AI # LLM # 全栈
阅读全文

从函数调用到领域专家：Solon AI 中 Tool 与 Talent 的选择方法

来源: oschina.net 31
很多 Agent 项目从函数调用起步：定义一个 Tool Schema，把参数、返回值交给模型，然后等待它选对函数。对于查询时间、计算哈希这类单步操作，这套方式足够直接；但业务流程一旦要求“先检索知识库，再判断是否创建工单”，单纯增加工具数量很快就会失控。 Solon AI 给出的分层思路是：Tool 负责执行一个动作，Talent 负责完成一类业务任...
# AI # LLM # 全栈
阅读全文

VS Code 1.130：Agent Host 多窗口协作与更紧凑的代码审阅

来源: oschina.net 41
Visual Studio Code 1.130 的重点不是再增加一个聊天入口，而是调整 Agent 的运行方式和审阅路径：会话可以运行在独立的 Agent Host 进程中，多个 VS Code 窗口能够连接到同一进程；预览中的 Agents 窗口则通过紧凑 diff、文件级统计信息和更清晰的聊天可见性，减少开发者在对话、终端与源码之间来回切换的成本...
# AI # LLM # 全栈
阅读全文

Nunchaku 接入 Diffusers：把 4-bit 扩散推理纳入现有生成管线

来源: huggingface.co 46
Nunchaku 的 4-bit 扩散推理进入 Diffusers，意义不只是“模型更小”。对已经使用 Diffusers 的团队来说，关键变化是量化后的 Transformer 可以被放进熟悉的 Pipeline 组合方式中：调度器、提示词编码、VAE 解码和输出接口仍保持在同一套工作流里，而显存压力主要从最重的去噪网络一侧下降。 这让本地部署和单卡...
# AI # Hugging Face # LLM
阅读全文

ChatGPT Health 上线：连接医疗记录与 Apple Health 后，个性化健康问答该如何落地

来源: openai.com 34
ChatGPT 新增 Health 能力，符合条件的美国用户可以安全连接医疗记录与 Apple Health，用自己的健康数据获得更个性化的解读。这项变化的重点不只是“多了一个数据源”，而是健康问答开始从通用知识检索转向结合个人时间序列、临床记录和上下文的分析。 没有个人数据时，模型只能回答“成年人通常需要多少睡眠”之类的通用问题。接入 Apple H...
# AI # LLM # OpenAI
阅读全文

从 AI 编程助手到生产级队友：monday.com 如何在 Amazon Bedrock 上推进智能体自治

来源: aws.amazon.com 46
AI 编程工具已经不只是编辑器里的补全插件。monday.com 将运行在 Amazon Bedrock 上的智能体称为“AI Teammates”，并把它们接入真实的软件交付流程。根据其内部生产数据，每月使用 AI 编程工具的 Builder 已从一年前约一半增长到九成，单个工程师的 PR 吞吐量提升超过 50%。更值得关注的不是工具覆盖率，而是团队...
# AI # AWS # Go
阅读全文

Google 投入 4000 万美元 AI 资源：Genesis Mission 如何把模型接入科学发现

来源: cloud.google.com 63
科学计算正在同时遭遇三种规模压力：聚变等复杂系统难以完整模拟，新材料候选空间大到无法穷举，大型实验设施每天又会产生海量数据。Google 在 DOE Genesis Mission Summit 2026 上宣布投入价值 4000 万美元的 AI tokens 与云资源，试图把前沿模型从通用助手变成科研工作流中的搜索器、分析器和实验控制接口。 这项投入...
# AI # GCP # Go
阅读全文

智能体治理要落到运行时：隔离、策略执行与受控工具访问

来源: docker.com 58
“不要读取敏感文件”“执行命令前必须确认”“只能访问指定服务”这类提示词，可以指导模型，却不能构成可靠的安全边界。智能体一旦能够调用 shell、浏览器、数据库或内部 API，治理就必须进入运行时：由模型之外的组件拦截操作、检查策略、限制资源，并记录实际执行结果。 关键变化在于，系统不再假设智能体会始终遵守建议，而是假设模型输出可能出错、被提示注入影响...
# AI # Docker # Go
阅读全文

治理 Agentic AI：用可执行护栏替代权限猜测

来源: docker.com 55
Agentic AI 的风险不只来自模型会不会答错，更来自它能够调用 API、读取数据、修改资源并触发后续流程。Docker 汇集企业安全负责人讨论的核心问题，正是如何治理这些具备行动能力的 AI Agent，同时避免把开发流程拖入漫长的人工审批。 真正可落地的答案不是要求开发者“谨慎使用”，而是把权限、审批、审计和运行时隔离做成可执行的工程护栏。这样...
# AI # Docker # Go
阅读全文