AI本地化 AirLLM:4GB 显存跑 70B 大模型是真的,但你得知道它有多慢 AirLLM 一次只把模型的一层放进 GPU,让 4GB 显存也能加载 70B 大模型。代价是每生成一个 token 都要从硬盘读一遍模型,用户反馈速度以秒甚至分钟计。本文讲清原理、用法和真实代价。