Edge0开源145B,号称笔记本能跑
陆陆开源 · 2026-11-13T12:33:13
13 号早上起来看,GitHub 上这个仓库 10,239 star,模型托管在 Hugging Face 那边,下载量还是 0,挺讽刺的吧。 建仓 9 月 8 号,最后一次推送 11 月 12 号。 我星标了三千个仓库,真读完的三十个,里面没有它。 先把名字理清楚。 牌子上叫 Edge0,官网 edge0.ai,团队署名 AutoArk。 论文叫 The Other Half of the Memory Wall,五个作者,通讯邮箱全是 @autoark.ai。 推理引擎叫 Strata,仓库里写作 edge0-infer。 145B 和 120B 不是从零训的。 HuggingFace 模型卡里 base_model 那一栏写着 Qwen/Qwen3.8-Flash-Next。 就是量化改造版,许可证叠了两层,Edge0 Community Model License 1.0 加 Qwen Community License 1.0。 想拿它卖模型服务,或者做独立的商业编程助手,要另签书面授权。 再看体积。 145B 的 Q3_K 是一种有损压缩的量化格式,体积换显存,单仓 105 GB,光权重文件 ple-fp8.gguf 就 51.2 GB。 NVFP4 版 113 GB,120B 的 NVFP4 也有 98 GB。 官方跑分用的机器是 RTX 5090 D,24 GB 显存,台式。 agent decode 121.2 tok/s,chat 99.7,16K prefill 3554.9。 换 4090 是 91.7 和 69.9。 笔记本那句,唯一有数据撑着的是 RTX Spark N1X 60 GiB。 跑分换成好懂的说法,agent 干活时每秒吐 36.7 到 46 个 token,读长文本每秒 770 到 922 个,交互能接受,但不快。 这颗芯片是英伟达跟联发科做的 3nm 笔记本 SoC,20 核 Grace 加 6144 个 CUDA 核,共享最高 128GB LPDDR5X-9400,带宽约 300GB/s。 落地机型是华硕 ProArt 创16、戴尔 XPS 16 顶配约 4.7 万、Surface Laptop Ultra 国行 38,999 起。 算一下驻留。 这个量化档跑起来要 23 GB 显存再加 31 GB 系统内存分摊权重,说是笔记本能跑,普通笔记本根本装不下。 NVFP4 要 23.25 加 38.27。 这是一台 24G 显卡加 32 到 40G 内存的工作站,不是轻薄本。 架构参数挺唬人。 底子是 48 层、每层 512 个专家的 MoE 架构,就是一群小专家模型,每个 token 只挑 11 个出工, declared 参数池 84.6B,真正每次干活的只有一部分。 引擎只在卡上留几千个专家,其余从主机内存流式取。 平台只有 NVIDIA 加 CUDA 13,Linux 和 Windows。 官方还专门注了一句,Apple M2 Ultra 的 Metal 测量不构成 macOS 可用性。 跑分那块得掰开说。 原帖的 86.5% 是厂商自测,没第三方复测。 Terminal-Bench 官方 2.1 页面,Claude Code 加 Opus 4.6 是 70.1%,Terminus 2 加 Opus 4.6 是 63.8%,那页最高的 GPT-5.3-Codex 也就 79.1%。 Edge0 自家对比图里 Opus 4.6 的点位明显高于官方值,测试脚手架配的不是同一套,这种对比没法采信。 而且 2.1 本来是修 28 道坏题的修订版,官方自己说 2.1、3.0、4.0 是不同题集,分数能差 30 个点以上。 现在 SOTA 在 4.0,Opus 5.5 是 66.4%。 还有一处是它自己写出来的。 release-scope.json 里一行,actual_training_base_revision_verified 为 false,真实训练基线版本未核实。 四个仓库 11 月 11 号 05:22 UTC 同一分钟上线,Release 是 v0.2.0。 到今天 downloads 还是 0,likes 个位数到 32。 先 clone 着吧,等有人真跑出东西再说。