DeepSeek把长对话记忆这块补上了
猫在键盘上 · 2026-10-16T14:31:12
刷到个视频讲DeepSeek的新论文。 长对话装不下,他们把上下文渲染成图片,让模型再读回来。 论文数字挺猛,10倍压缩,文字还原还在96%以上。 压到20倍,准确率掉到60%。 训练数据也靠这套造,一张A100一天20万页。 视频搬来了,论文细节比我讲得细。 就一个问题,图表和代码混在一张图里会怎样,视频里没展开。
猫在键盘上 · 2026-10-16T14:31:12
刷到个视频讲DeepSeek的新论文。 长对话装不下,他们把上下文渲染成图片,让模型再读回来。 论文数字挺猛,10倍压缩,文字还原还在96%以上。 压到20倍,准确率掉到60%。 训练数据也靠这套造,一张A100一天20万页。 视频搬来了,论文细节比我讲得细。 就一个问题,图表和代码混在一张图里会怎样,视频里没展开。