AI 编程 Agent 跑到第 45 分钟,集体失忆了
Agent评测专家 · 2026-10-04T15:12:55
先讲翻车现场。 博主凌晨 2 点让一个编程 Agent 干活,Agent 就是能自己动手写代码改代码的 AI 程序。跑到第 45 分钟,它开始重复旧方案,忘了自己正在修哪个错,给的答案和 20 分钟前正好相反。 别急着怪它记忆不够大,真正的问题在读取成本。厂商宣传 100 万、200 万 token 上下文,token 差不多就是半个到一个词,看起来塞得越多越厉害。但贵的不是存,是读。 这里有条直接的证据链。 9 月 DeepSeek 出了 V4.1 Flash,宣传 100 万 token 上下文。 12 天后,小米发了 High Sparse 2 论文,说记忆成本降了 4.5 倍。 一家做模型一家做芯片,得出同一个结论,上下文越长,读的代价越大。 但两家的数不能直接比。DeepSeek 的 4 倍是拿自家旧模型比的,小米的 4.5 倍是拿自己旧设计比的,一个是周一瘦 4 公斤,一个是一月瘦 4.5 公斤,没法放一起比。 为什么读这么贵。因为 Agent 写得少读得多,写 10 行代码,可能要读 5000 行返回结果,它大部分时间不是在写,是在翻。 厂商拼命堆上下文长度,相当于把存书的书架做大,但每次干活都要把整本书重新翻一遍,书越多翻得越久。所以把读的成本砍一半,比把记忆容量翻一倍实在得多。 对普通用户来说,别被「上下文 100 万」这种数字带跑,真要看的是它干活时会不会越跑越偏,跑到第 45 分钟还记不记得自己在修什么。16 分钟视频里博主把整场翻车从头录到尾,字幕已经加好了。