💬 观点Latent Space
[AINews] How to steal a Reasoning Trace — 前沿模型隐藏推理被破解，隐私风险与蒸馏争议并存。
前沿模型隐藏推理被破解，隐私风险与蒸馏争议并存。
2026-08-12原文
本文为要点摘要，完整细节以原文为准。
🧭 一图看懂
由原文自动提炼 · 以原文为准点击任一分支，查看这一点的一句话解读
前沿模型隐藏推理被破解
利用 API 漏洞重放加密推理块，让弱模型转录出隐藏思维链
- 重放签名推理块到同厂商弱模型
- Claude 用 Haiku 4.5 + 预填充
- GPT 注入 encrypted_content 采样 50 次
⚙️ 流程拆解
STEP 1获取加密推理块
STEP 2重放到弱模型
STEP 3放入模型轮次并预填充
STEP 4反复采样丢弃拒绝
STEP 5合并噪声转录
- 论文展示可解码并移植加密推理块至其他模型/会话，提升开源模型性能，但扫描约7000条公开痕迹发现62个API密钥等敏感数据泄露。
- 攻击方法：将合法加密推理块重放到同提供商较弱模型，通过预填充和采样诱导转录，绕过50词阈值。
- 讨论分歧：隐私/安全严重问题 vs. 非规模化蒸馏路径，隐藏思维链不可靠，需加强沙箱和遥测。
原文：[AINews] How to steal a Reasoning Trace · 作者 Latent Space
🕸 顺着图谱继续读
- Claude's new system prompt really doesn't want to — Anthropic 更新 Claude 系统提示词，新增版权限制与风格调整，Si2026-09-02 · 共同涉及 Claude、Haiku 4.5
- How Claude's text watermarking works — Claude 文本水印如何在不影响输出质量的前提下标记 AI 生成内容？2026-08-15 · 共同涉及 Claude、Gemini
- An opinionated guide to which AI to use to do stuff — Ethan Mollick更新AI指南，聚焦Agent系统与电脑操控模式。2026-07-27 · 共同涉及 Claude、Gemini
- Choosing to Stay Human — AI 写作泛滥，但无脑使用会削弱人类思考与学习能力，作者探讨如何明智使用 AI 2026-05-26 · 共同涉及 Gemini、Claude