Claude Mythos and misguided open-weight fearmongering — 针对Claude Mythos引发的开源模型恐慌，作者指出夸大风险会阻碍网络安全

作者认为，围绕Claude Mythos等闭源模型引发的对开源模型的恐慌，是错误地将两个问题混为一谈：

• 静态看待能力差距：误以为闭源与开源模型的能力差距是固定不变的，而实际上前沿开源模型在特定领域（如代码）能快速跟进。这意味着开发者不应因短期差距而全盘否定开源生态的长期价值。
• 以偏概全的风险关联：将开源模型的可行性笼统地与特定风险（如网络安全）挂钩，而忽略了部署此类模型所需的高昂成本（如数百块H100 GPU）和复杂工具链，这实际上限制了恶意行为者的广泛使用。对于工具链构建者而言，这意味着安全门槛本身构成了天然屏障。
• 历史教训与未知现实：类似恐慌在GPT-2和GPT-4发布时都出现过，但最终并未成真；同时，我们对Mythos的具体能力及其运作环境（数字基础设施现状）仍知之甚少。这提醒政策制定者，在信息不足时仓促推出限制性政策可能适得其反。

原文：Claude Mythos and misguided open-weight fearmongering · 作者 Nathan Lambert