标签

LLM

Agentic AI 落地不能靠猜：给 AI Agent 加上可执行的安全护栏

来源: docker.com 29
AI Agent 不只是生成文本，它还可能读取内部数据、调用 API、修改配置，甚至代表用户执行操作。随着企业开始把 Agent 放进真实业务流程，核心问题也从“模型能不能完成任务”变成了“它在什么边界内可以行动”。 Docker 汇集企业安全负责人讨论这一问题时，结论指向一个实际矛盾：企业需要治理 Agent，但治理不能变成开发者每次调用模型都要填写...
# AI # Docker # Go
阅读全文

OKF v0.2：让智能体生成的知识具备可追溯、可验证的信任信号

来源: cloud.google.com 20
当智能体开始批量编写表结构、指标定义和运维手册，知识库面对的问题就不再只是“内容是否完整”，而是“消费者凭什么相信它”。OKF v0.2 在保持 Markdown 与 YAML frontmatter 这一轻量结构的同时，加入来源、验证、新鲜度、生命周期和计算证明等可机器读取的信号，让另一个智能体在读取正文、执行查询或展示数字之前先做判断。 OKF v...
# AI # AWS # GCP
阅读全文

在 Amazon Bedrock 上使用 GPT-5.6：从模型选择到 Codex 扩展

来源: aws.amazon.com 40
OpenAI GPT-5.6 Sol、Terra 和 Luna 已在 Amazon Bedrock 正式可用。对开发团队来说，重点不只是换一个模型名称，而是要把模型选择、Responses API 调用、提示词缓存、Codex 接入和配额规划放进同一套工程流程里。 Sol、Terra 和 Luna 可以理解为面向不同工作负载的模型选项。实际选型时，不要...
# AI # AWS # LLM
阅读全文

LLM 不只靠模型：搭建可替换 Harness，并用 Scrapy 接入可靠网页数据

来源: realpython.com 27
在 LLM 应用里，模型当然重要，但真正决定开发流程能否稳定复用的，往往是模型外围的 harness（编排与运行框架）。它负责把提示词、工具调用、上下文、权限、重试、日志和人工确认组织成一个可观测的闭环。模型可以替换，流程不能靠临场发挥。 本期话题同时谈到 agentic 开发工作流、Scrapy 网页抓取和 Python 应用自托管。把它们放在一起看...
# AI # LLM # Python
阅读全文

用 LangChain4j 构建代码智能体：Supervisor 与 Workflow 的调试取舍

来源: infoq.com 24
让代码智能体自己编写、测试并修复代码，难点通常不在于一次模型调用，而在于如何组织多轮行动。围绕 LangChain4j 文档进行的这项实验表明，智能体框架的架构选择会直接影响调试任务的执行速度、可控性和应对异常的能力。 实验聚焦于一个能够自主完成“写代码、跑测试、定位问题、修改代码、再次验证”的编码框架。其中值得关注的是两种常见组织方式：由中央决策者协...
# AI # InfoQ # LLM
阅读全文

从 ReAct 循环到 Agent Harness：把模型行为变成可恢复的产品能力

来源: my.oschina.net 28
ReAct 解决了一个关键问题：让模型在“思考、行动、观察”的循环中调用工具并逐步完成任务。但当 Agent 进入真实产品，团队面对的不再只是模型能否完成任务，而是用户能否看见进度、暂停执行、确认高风险操作、从故障中恢复，并追溯每一步发生了什么。 这时，工程重心会从模型循环转向 Agent Harness。Harness 不是另一套推理方法，而是包围模...
# AI # LLM # React
阅读全文

Agent 的成本不在写代码：用上下文交接减少重复阅读

来源: oschina.net 17
AI 编程 Agent 的账，往往不是写了多少行代码，而是读了多少遍代码。Stencil 的 Can Boluk 对 SWE-Bench 基准测试数据进行拆解后发现：在约 1.81 亿个 token、近 200 万次工具调用中，编辑和写入只占 9%，其余 91% 都消耗在读取文件、执行 grep、查看命令输出等活动上。 这改变了优化方向。提高生成速度只...
# AI # LLM # 全栈
阅读全文

CNCF 日本社区成立 AI Infra SIG：把 AI Agent 基础设施问题带进云原生协作

来源: cncf.io 28
AI 应用正在从单轮生成式调用走向能够规划、调用工具并持续执行任务的 Agent。工作负载随之发生变化：推理请求持续时间更长，GPU 等加速资源更紧张，模型服务需要弹性伸缩，任务还可能跨越多个服务和集群。CNCF 日本社区成立 AI Infra SIG，并通过首次 meetup 和讲者招募启动交流，正是为了把这些问题放到 Kubernetes 与 Cl...
# AI # CNCF # Kubernetes
阅读全文

用 Amazon Bedrock Guardrails 为代码生成工作流建立安全边界与容量规划

来源: aws.amazon.com 18
代码助手面对的输入和输出与普通问答不同：提示词可能包含源代码、配置文件和内部接口信息，模型输出则可能直接进入代码评审、构建流水线甚至生产环境。Amazon Bedrock Guardrails 可以作为代码生成工作流中的独立安全层，用于拦截或标记不合规内容，同时帮助团队更准确地评估调用量、延迟和处理容量。 关键不在于“给模型加一个过滤器”，而在于把 G...
# AI # AWS # LLM
阅读全文

GitLost 揭示 GitHub AI Agent 的危险信任链：公开 Issue 如何变成私有数据出口

来源: infoq.com 24
GitLost 是 Noma Security 发现的一类间接提示词注入攻击。攻击者把隐藏指令嵌入公开 GitHub Issue，诱导 GitHub 的 Agentic Workflows 读取这些不可信内容，并在后续执行中把私有仓库信息写入公开评论。问题不只是模型“听错了话”，而是自动化系统同时连接了不可信输入、敏感数据和公开输出。 传统 CI 通常...
# AI # InfoQ # LLM
阅读全文