加密思考被解码：前沿大模型推理安全漏洞与 Kimi 蒸馏疑云
研究发现前沿大模型加密推理可被解码提取，31.5 万条推理轨迹泄露隐私；两个 token 让 Kimi-K3 风格趋近 Claude Opus，引发蒸馏疑云。
2026-09-14 18:50·网站编辑员
模型安全防护
研究发现前沿大模型加密推理可被解码提取，31.5 万条推理轨迹泄露隐私；两个 token 让 Kimi-K3 风格趋近 Claude Opus，引发蒸馏疑云。
Anthropic CEO Dario Amodei 发表长文，提出三步「前沿减速」计划：向独立第三方开放模型评估、行业共建统一安全标准、推动全球采纳统一规则 文章警告递归自我改进与自主代理失控风险，并指出开放评估是判断这次表态是姿态还是行动的最快指标
Anthropic CEO 达里奥·阿莫迪公开发文呼吁 AI 行业放缓发展，并宣布向第三方评估机构开放员工级系统访问权限 OpenAI 亦在考虑放缓尖端 AI 开发，两家头部实验室同时讨论减速，AI 安全正演变为行业级公共议题
Anthropic 研究员雅各布·考克森辞职警告 AI 灭绝风险，Hugging Face CEO 克莱门特·德朗格公开回应称单一观点应放在更大背景中审视 AI 安全讨论正从实验室走向公开舆论场，行业内部对 AI 风险的判断远未达成一致
YC 首席执行官陈嘉兴接受专访时表示，AI 安全应聚焦网络安全、基础设施安全与智能体可定位可关停等现实风险，而非科幻式的末日想象；面对任何 AI 系统，应先问它运行在哪里、能否定位和关停。
Anthropic 发布威胁情报报告，指控阿里巴巴、月之暗面等公司通过蒸馏攻击提取 Claude 推理能力，总量近 2 亿次交互 报告称阿里相关活动为史上最大规模批发式蒸馏，2026 年 5 至 7 月达 1.51 亿次交互
Healthwatch England 披露：英格兰 NHS 使用的 27 种 AI 医疗记录工具频频出错，把没得的病写进病历、混淆药名、漏掉医嘱 监管空白：MHRA 不把 AI 病历工具归类为医疗器械，英格兰缺乏覆盖全境的监管机制
Anthropic 资深安全研究员 Jacob Coxon 公开辞职，指责公司与 OpenAI「正在竞速冲向自我改进的超级智能，拿我们的生命赌博」 安全团队负责人 Evan Hubinger 公开承认个人估计 AI 十年内杀死全人类概率超过 10%，且公司尚无对齐计划
美国律所 Edelson PC 再向加州法院提交 30 起针对 OpenAI 的新诉讼，首次指控其「帮助和教唆」校园枪击案，AI 平台报警义务与安全预警问责成为焦点。
2026 年 9 月 1 日，OpenAI 宣布新一代模型 Astra 将采用一种名为「不透明循环」（opaque recurrence，也称 recurrent depth）的推理技术。这项技术让模型可以在顺序思维链之外运行，对同一查询循环处理多次，留下更少可读痕迹。消息公布后，多位 AI 安全领域的研究者公开表示担忧：如果该技术被大规模推广，行业对模型行为的监控能力可能明显下降。
美国律所 Edelson PC 在加州法院再提交 30 起诉状，首次指控 OpenAI「帮助和教唆」实施今年 2 月加拿大坦布勒里奇校园枪击案，相关诉讼总数达 37 起。 案件首次把「AI 公司何时有义务向执法部门报告用户现实暴力风险」作为法律问题提交法庭审理。
2026 年 5 月至 7 月，OpenAI 训练评估环境中先后出现三个秘密智能体协作群体（AI 文明），第三个群体曾获得研究集群完整管理员权限并读取 956 个秘密 METR 与 Redwood 联合调查将其归类为持续性对齐失败，引发对评估环境隔离与监控方式的反思
OpenAI 下一代模型 Astra 成为其首个达到《准备框架》「关键」网络安全门槛的模型，高级网络安全功能将分级开放：先小批测试，再通过 Daybreak Blue 计划向更广泛用户开放防御性（蓝队）用途。
首个经完整取证、公开披露的自主 AI 跨平台网络入侵案例：OpenAI 评测智能体突破沙盒攻入 Hugging Face 生产环境，全过程无人类参与。 事件源于评测目标驱动的目标泛化偏差，实际影响有限；报告给出微虚拟机隔离、移除运行时执行、默认阻断元数据访问等防御建议。