LFM2.5-Encoders for Fast Long-Context Inference on CPU — Liquid AI 发布 LFM2.5 编码器，实现 CPU 上高效长上下文推理

• LFM2.5 编码器基于线性注意力机制，将计算复杂度从 O(n²) 降至 O(n)，支持 100 万 token 上下文窗口，在 CPU 上即可运行。
  • 这意味着开发者无需 GPU 即可部署长文档问答、代码库分析等应用，大幅降低硬件门槛。
• 模型采用混合专家架构（MoE），在保持高性能的同时减少激活参数，提升推理速度。
  • 对于 Agent 工具链，MoE 设计允许按需激活子网络，适合多任务场景下的资源优化。
• 在 LongBench 等基准测试中，LFM2.5 编码器在长上下文任务上达到与 Transformer 模型相当的效果，但推理延迟更低。
  • 这表明线性注意力模型已具备实用价值，开发者可将其集成到 RAG 或记忆系统中，实现实时交互。

原文：LFM2.5-Encoders for Fast Long-Context Inference on CPU · 作者 Hugging Face