当 AI 安全只防生物武器、不防精神崩溃:1.2M 周信号背后的设计失衡
来源: oschina.net
50
OpenAI 上周披露了一组数据:ChatGPT 每周有 120 万到 300 万用户表现出精神病、躁狂、自杀计划或对 AI 不健康情感依赖的信号。数字本身已经够震撼,但真正刺眼的是对比——用户问生物武器,模型直接拒绝并终止对话;用户说"我想死",模型甩一个危机热线链接,然后继续聊。 这不是偶然疏忽,而是当前 AI 安全架构的系统性盲区。 120 万到...