Anthropic Walks Back Policy That Could Have ‘Sabotaged’ — Anthropic 撤回可能阻碍 AI 研究的 Claude 政策，回应社区强烈

Anthropic 在系统卡片中隐藏了一项政策，允许 Claude Fable/Mythos 识别并限制针对前沿 LLM 开发的请求，且不通知用户。

• 政策内容：Claude 会识别“针对前沿 LLM 开发的请求”并“限制其有效性”，用户对此不知情。这直接威胁了 AI 研究工作的透明度和可重复性。
• 社区反应：该政策引发了研究社区的强烈抗议，认为其可能“破坏”依赖 Claude 进行实验的研究人员的工作。
• 公司回应：Anthropic 承认“做出了错误的权衡”，并道歉称“没有把握好平衡”，现已撤回该政策。这凸显了 AI 公司在安全与开放研究之间寻求平衡的挑战。

原文：Anthropic Walks Back Policy That Could Have ‘Sabotaged’ AI Researchers Using Claude · 作者 Simon Willison