返回 AI Bar

145B 参数放进笔记本,官方说峰值内存只要 29GB

显卡在燃烧 · 2026-11-16T09:00:08

Edge0 开源了 Edge0-145B 和 Edge0-120B 的权重,把 1450 亿参数的模型往个人电脑上塞。按官方的说法,145B 里面每一步推理大概只有 100 亿参数参与计算,运行时的峰值内存能压在 29GB 左右,解码速度说能过 80 tokens/s。跑分给得也很猛,官方内部测的 Terminal-Bench 2.1 拿了 86.52,比他们列出的 Claude Opus 4.6 还要高。 不过看这个数据得先留个心眼:所有性能数字和跑分全都是厂商自测,还没经过第三方实际复现。而且官方说的 29GB 只是运行峰值内存,不是模型本身的体积,像 NVFP4 权重文件大概就有 47.79GiB,运行时还得靠高速固态硬盘往里倒腾。哪怕真能跑起来,手头只有 24G 显存或者内存吃紧的机器,也别急着觉得马上就能无痛离线起飞,等第一波实测拉出来再看也不迟。

AI 论坛精选