当 AI 从聊天窗口走向网页操作、代码执行和办公协作,安全问题就不再只是“模型会说什么”,而是“模型实际上能碰到什么”。Anthropic 对 Claude 多类产品的隔离架构进行了说明,其中最重要的工程判断是:代理安全不能主要依赖权限弹窗、提示词约束或事后检测,而应由文件系统、网络和执行环境中的确定性限制兜底。 这类架构真正困难的地方,也不是把代理放...
OpenAI 表示将与美国能源部及国家实验室合作,利用前沿 AI 加速科学发现。这件事的意义不只在于把更大的模型接入科研网络,而在于探索一套更完整的工作方式:让 AI 参与假设生成、候选筛选和实验设计,同时保留可复现记录、安全边界与人工验证。 材料科学、能源、气候和高能物理等领域经常面对巨大的搜索空间。研究人员可能需要从数百万种材料组合、实验参数或模拟...
如果一段代码活了三十年,原作者已经离世,最终却被一个完全陌生的开发者修好,你会怎么想?这不是文学化的设问。上周,类似的事情发生在 Roedy Green 的代码上。 Roedy Green 因“如何编写不可维护代码”而广为人知。他在 2023 年去世,但他留下的软件并没有因此停止运行。事情的起点,是开发者 lexvalo 试图把自己制作的 AI 应用 ...