🔬Scaling Past Informal AI - Carina Hong, Axiom Math — Axiom 创始人谈 AI 数学证明：从直觉到形式化验证，是通往 AGI 的必经

这篇访谈揭示了 Axiom 如何通过形式化验证推动 AI 发展，核心观点包括：

• 形式化验证是“规模化智慧”：Axiom CEO Carina Hong 以数学家拉马努金为例，说明将直觉转化为严格证明（如使用 Lean 语言）不仅能巩固知识，还能让他人理解和在此基础上构建，从而实现智慧的“规模化”与“复合增长”。这对 AI 训练意味着，可验证的证明能提供比统计信号（如 RLHF）更强、更高效的奖励信号。
• 验证在训练与推理中至关重要：Axiom 的开源工具包 AXLE 用于探索和验证数学证明。在强化学习中，用验证器检查证明正确性，可比传统方法获得更可靠的反馈。其模型在需要生成代码及正确性证明的 Verina 基准上达到了 99% 的惊人成绩，远超其他已知系统。这表明专注于形式化验证可能带来性能突破。
• 验证是跨领域的根本瓶颈：从物理系统仿真到理论物理研究，再到关键硬件（如飞行控制）的软件验证，确保输出的正确性日益成为瓶颈。Carina 坚信，实现 AGI 必须依赖可验证的生成，并认为这是唯一的未来路径。这提示工具链和开发者需要重视构建可验证、可复现的 AI 系统。

原文：🔬Scaling Past Informal AI - Carina Hong, Axiom Math · 作者 Latent Space