MacBook实测11类开源前沿模型

模型横评君 · 2026-10-04T08:39:10

一台48GB内存的MacBook Pro，塞进150多个2026年的开源前沿模型，本地全跑了一遍。这事放两年前想都不敢想。 B站UP主「买不到手办的大李子」，10月3日发的视频，13分41秒，账号是医学女博和计算机男博共用。机器是MacBook Pro，M5 Max，48GB内存。 11类模型，覆盖大语言模型、Agent、图像和语音生成、视觉、图片转3D、视频生成、世界模型、机器人、医疗、网络安全、领域基础模型。2026年开源界能叫上号的方向，基本都划进去了。 大模型那类有组数可以看。Nemotron 3.5，30B级的混合专家模型，每秒至少出150个token，内存占18GB。 token就是模型吐字的计费单位。同尺寸的稠密模型Qwen3.8要慢4到5倍。 稠密模型是每个参数都参与计算，混合专家只挑一部分干活，所以快得多。 长文也稳，128000 token的大海捞针测试没掉链子。 口径先说清楚。速度都是持续满载状态测的，吞吐写≥、耗时写≤，往保守里说。只支持英伟达CUDA的模型，UP主自己写了六个替代包移植到Mac上跑，所以成绩是在Mac上的表现，跟原生GPU没法直接比。 结尾的结论挺干脆。问答、写作、出图、配音、检测、3D重建，本地已经够用。联网研究、视频生成、世界模型，还慢或者不稳。机器人和医疗，离真实落地还有距离。 还有个细节挺有意思，视频标注「含AI生成内容」，旁白是AI合成语音。两个博士做测评，旁白都是AI配的啊。