Lossy self-improvement — AI自我改进并非指数级爆炸，而是存在损耗的线性进程，揭示了技术发展的现实瓶颈。

本文探讨了当前AI领域热议的“递归自我改进”（RSI）概念，并提出了“有损耗的自我改进”（LSI）这一更符合现实的观点。作者认为，尽管AI进步迅猛，但多种摩擦因素将阻止纯粹的指数级智能爆炸。

• 自动化研究的局限性：AI代理擅长优化单一、狭窄的指标（如降低测试损失），但顶尖研究需要协调众多复杂、甚至相互冲突的目标。这意味着AI在核心研究创新上存在能力天花板。
• 复杂性的制动效应：随着系统变得极其复杂，取得额外进展的难度会指数级增加，这类似于保罗·艾伦提出的“复杂性制动”理论。专利数量的历史趋势也支持回报递减规律，而非加速回报。
• 组织与直觉的摩擦：构建领先的AI模型不仅涉及技术，还深度依赖人类的深层直觉和大型组织的协调。这些“人的因素”难以被完全自动化，会在改进循环中引入不可避免的损耗。

对开发者的含义在于，应关注如何设计工具链来管理而非消除这些复杂性摩擦；对行业而言，这意味着AI进步更可能是一条伴有阵痛的线性轨迹，而非瞬间的奇点。

原文：Lossy self-improvement · 作者 Nathan Lambert