Why AI Infrastructure must evolve for Agent Experience — Modal CTO 谈 AI 基础设施如何从开发者体验转向代理体验。

• 传统云基础设施为人类开发者设计，但代理无法像人一样阅读文档、理解 YAML 或调试仪表盘，因此需要更紧密的反馈循环和上下文。这意味着基础设施必须提供程序化、可自服务的环境，如沙箱，以支持代理的快速迭代。
• Modal 通过 serverless 函数、GPU 快照、弹性推理和 17 个云提供商的容量池，为代理提供 bursty 计算和隔离环境。这降低了代理执行 RL 训练或推理时的冷启动延迟，使基础设施能按需扩展。
• 生产级代理需要硬性护栏和专门的沙箱，而不仅仅是通用容器。这要求云平台提供可编程的隔离、可观测性和资源控制，确保代理行为安全且可审计。

原文：Why AI Infrastructure must evolve for Agent Experience — Akshat Bubna, Modal CTO · 作者 Latent Space