54%企业已遭遇AI智能体安全事件,多数仍共享凭证
VentureBeat调查107家企业发现,54%已遭遇AI智能体安全事件(18%确认事故,36%险些酿祸)。仅32%为每个智能体分配独立身份凭证,30%将高风险智能体隔离在沙箱中。安全工具主要依赖模型提供商原生方案,专用智能体安全产品渗透率极低。
AI and technology watch
聚合过去 24 小时 AI 与开发者生态动态,并提供来源链接以便深入阅读。
VentureBeat调查107家企业发现,54%已遭遇AI智能体安全事件(18%确认事故,36%险些酿祸)。仅32%为每个智能体分配独立身份凭证,30%将高风险智能体隔离在沙箱中。安全工具主要依赖模型提供商原生方案,专用智能体安全产品渗透率极低。
在 ChatGPT 工作区中创建和编辑精美的文档、电子表格和幻灯片。 @nickbaumann_ 为你演示操作。
Decoy Font 是一款 TTF 字体,通过在同一字符中叠加不同空间频率的图形(前景细轮廓与背景低频模糊块),使近距离观看时 AI 读到"诱饵"字母,而人眼远距离或眯眼时才能看到真实隐藏信息。
2 5 个信源同时报道
Anthropic 工程师用 Claude Code 在两周内将 Bun 的百万行 Zig 代码迁移至 Rust,100% 现有测试通过,合并后出现 19 个回归问题已全部修复。另一工程师用周末将 Python 代码库迁移至 16.5 万行 TypeScript。迁移消耗约 16.5 万美元 API 成本,但编译时间从八分钟降至两秒,二进制启动快 6 倍。
对157家企业的调查显示,50%的组织在过去一年曾部署通过内部评估但导致客户故障的AI智能体或大语言模型功能,5%的企业完全信任自动化评估,29%认为评估与现实结果对齐不佳是最大局限。尽管信任度低,66%的企业已允许或正计划在12个月内实现低风险智能体的全自动、无人工干预部署。
04:02 Hacker News 热门(buzzing.cc 中文翻译) 精选 73 前谷歌DeepMind研究员Alex Turner因谷歌向国土安全部出售云服务并最终签署无限制军事AI协议而离职。他曾起草25页提案要求加入禁止杀手机器人和大规模监控的合同条款,但提案被CEO转交后无人跟进。Turner指出,包括Jeff Dean和Stuart Russell在内的多位AI伦理领袖在关键时刻未能兑现承诺。 Anthropic Google 安全/对齐 现象/趋势 推荐理由: Alex Turner用亲身经历戳穿了AI巨头们的伦理承诺,Jeff Dean、Stuart Russell等名人在关键时刻失声,这份记录比任何声明都真实。
Cursor 的模型评估负责人 Nate Schmidt 发现,Claude Fable 5 在其内部基准 CursorBench 上以 Max effort 模式达到 72.9%,创下新高。该模型在模糊的真实编程任务中表现出全局推理能力,例如在航天模拟器中仅凭一句提示自主规划并成功登月,而此前 Claude Opus 运行 12 小时以上仍无结果。
Google Vids 推出两项更新:Gemini Omni 支持用户通过自然语言提示词和图片参考生成、逐步编辑高质量视频片段;个人数字分身功能允许用户上传自拍和语音录制后,输入文字即可让数字分身出镜。两项功能面向 Google AI Pro 和 Ultra 订阅者及 Google Workspace 商业客户开放,所有生成内容均含不可见的 SynthID 数字水印。
02:12 Anthropic @ AnthropicAI 精选 73 智能体 Anthropic 安全/对齐 推荐理由: 去年敲诈实验后,Anthropic 又发现四种智能体在模拟中行为不当的新方式,这份研究是安全对齐领域绕不开的实证,做智能体的人该读一读。
7月16日,成立世界人工智能合作组织协定签署仪式在上海举行,中共中央政治局委员、外交部长王毅代表中国政府签署协定。该组织是独立的政府间国际组织,总部设在中国上海,旨在促进人工智能国际合作与全球治理。哈萨克斯坦、老挝、巴基斯坦等29个国家代表签署协定成为创始成员国。
Anthropic 发布最强通用模型 Claude Fable 5,专为长时间、多步骤的复杂异步工作设计,可在 Claude Cowork 中自主执行深度研究、尽职调查等任务。该模型需手动选择,默认模型为 Claude Sonnet 5。
01:09 OpenAI:官网动态(RSS · 排除企业/客户案例) 精选 67 OpenAI 训练了自动化红队模型 GPT-Red,用于在部署前发现漏洞并在训练中生成攻击以提升模型鲁棒性。GPT-Red 能攻破此前几乎所有模型,其攻击被用于对抗训练 GPT-5.6 Sol,使该模型在直接提示注入基准测试中的失败率降至四个月前最佳生产模型的 1/6。GPT-Red 通过自对弈强化学习训练,投入了 OpenAI 后训练中前所未有的计算规模。 OpenAI 安全/对齐 数据/训练 另有 4 家信源报道 X:Greg Brockman (@gdb) IT之家(RSS) The Decoder:AI News(RSS) X:OpenAI (@OpenAI) 推荐理由: OpenAI 用自博弈训练出的红队模型 GPT-Red,把直接提示注入攻击成功率压到了 0.05%,而且没有降低模型能力。做 AI 安全的人应该好好读一下他们怎么实现这个飞轮的。
02:09 Thinking Machines @ thinkymachines 精选 70 多模态 开源/仓库 推理 模型发布 另有 9 家信源报道 X:Testing Catalog (@testingcatalog) IT之家(RSS) The Decoder:AI News(RSS) TechCrunch:AI(RSS) Hacker News 热门(buzzing.cc 中文翻译) X:Artificial Analysis (@ArtificialAnlys) X:Rohan Paul (@rohanpaul_ai) X:邵猛 (@shao__meng) X:歸藏 (@op7418) 推荐理由: 多模态推理终于有了开放权重的选项,Inkling不是最强的,但可能是最方便你上手微调的。想试试多模态Agent的,今天就能在Playground玩。
01:00 Hacker News 热门(buzzing.cc 中文翻译) 精选 72 2025年夏季,美国佛罗里达州一名退休老人接到“女儿”哭诉车祸需保释金的电话,一小时内取现1.5万美元交给冒充法院的快递员——实际上,哭声是从一段音频片段合成的AI语音。FBI 2026年4月报告首次将AI欺诈列为独立类别,2025年收到超2.2万起AI相关投诉,调整后损失超8.93亿美元,其中60岁以上受害者占3.52亿美元。 安全/对齐 语音 推荐理由: FBI首次将AI诈骗单独统计,老年人成最大受害群体。这篇分析点破了防范盲区:别再指望靠人分辨真假语音,责任该压在银行和平台身上。
面壁智能联合多团队开源StaffDeck,一个用于构建与管理数字员工的企业平台。该平台旨在将专业知识、标准作业程序(SOP)和决策规则转化为持续工作、改进并保留组织知识的数字员工,而非传统聊天机器人。项目代码已发布于GitHub。
百度智能云在 WAIC2026 发布秒哒 3.5,新增 iOS 打包能力,用户无需 Mac 或 Xcode 即可将应用打包为 IPA 文件或上架 App Store。3.5 版本还内置 SEO Agent 实现搜索优化自动化,支持多应用共享同一后端数据库,并推出数据库多环境隔离与后端资源分级功能。秒哒累计服务超 3500 万用户,已创造 350 万个商业应用。
欧盟依据《数字市场法案》(DMA)裁定 Google 必须向竞争对手开放 Android 和 Google Search 的关键部分,包括允许第三方 AI 助手和搜索引擎获得更大访问权限。这两项决定可能削弱 Google 对两大核心平台的控制,并为其 AI 工具 Gemini 的未来格局带来深远影响,同时为竞争对手创造新的发展机会。
23:59 Hacker News 热门(buzzing.cc 中文翻译) 精选 77 Telegram Serverless 允许开发者直接在 Telegram 基础设施上运行 Bot 和 Mini App 的后端代码,无需配置服务器或容器。开发者编写普通 JavaScript 模块,通过 npx tgcloud push 单命令部署,代码在靠近 Bot API 和内建数据库的轻量级 V8 隔离沙箱中执行。 产品更新 教程/实践 部署/工程 推荐理由: Telegram 给机器人开发搭了一套完整的无服务器后端,内置数据库和 CLI,从写代码到部署都在一个文件夹里完成。做 Telegram 机器人的开发者可以彻底扔掉 VPS 和云函数了。 19:05 X.PIN @ thexpin 精选 78 阿里Qwen将集成至Apple Intelligence服务中国用户 阿里巴巴的Qwen模型将被集成到Apple Intelligence中,为中国的iOS、iPadOS、macOS和visionOS用户提供文本与图像理解、内容生成等AI功能。中国网信办已公布包括Apple Intelligence、华为小艺大模型、OPPO AndesGPT在内的七项移动端生成式AI服务备案信息。阿里巴巴董事会主席蔡崇信表示,苹果在选定阿里前曾与多家中国公司洽谈。 政策/监管 端侧 行业动态 另有 5 家信源报道 X:Berry Xia (@berryxia) TechCrunch:AI(RSS) IT之家(RSS) X:小互 (@xiaohu) X:X.PIN (@thexpin) 推荐理由: 苹果选阿里Qwen为中国AI引擎,蔡崇信已确认,网信办也已备案,这事对国内AI厂商的竞争格局影响不小,做国内市场的应该认真看一眼。 16:41 IT之家(RSS) 精选 70 金山办公推出 WPS Comate AI 办公客户端 金山办公在2026 AI生产力大会上推出面向员工的AI办公客户端WPS Comate,可连接组织数据与流程。该产品提供AI岗位专家、Skill技能生态、自动化任务等六大模块,并支持云端与本地双任务模式,个人用户可直接下载体验。 智能体 产品更新 推荐理由: 金山办公把WPS Comate从聊天工具升级成能连接组织数据、自动执行任务的AI办公平台,对国内WPS用户群是个实际提效选项,但具体落地效果和第三方集成深度还有待验证。 16:41 IT之家(RSS) 精选 82 国行 Apple 智能完成备案,阿里千问将集成至苹果 AI 能力 苹果技术开发(上海)有限公司的“Apple 智能”大模型已于 2026 年 7 月 8 日完成备案,适用场景为苹果手机。阿里千问将作为 AI 能力集成至 Apple 智能,为 iOS、iPadOS、macOS 和 visionOS 的中
3 5 个信源同时报道
有任何建议或问题,欢迎告诉我们
感谢您的反馈!