先写提纲再生成，快了31倍

读文献什么时候是个头 · 2026-10-16T14:30:12

下载了三十篇论文，读到第三篇就歇了脚。 剩下二十七篇，全靠AI帮我划重点。 我这套慢法子，看来斯坦福也有人嫌烦。 他们叫HazyResearch，配着Together AI发了篇新论文。 论文10月9号挂上arXiv，编号2610.14162。 做法分两步，先起个草稿，再逐层填细。 用大白话说，就是先写提纲，再动手补全。 31倍是怎么跑的，单块H100上比墙钟时间。 摘要任务XSum上，质量分ROUGE打平，快出约31倍。 ROUGE就是摘要和标准答案的重合度打分。 小数据集LM1B上，又快出约21倍。 困惑度还更漂亮，这个词衡量模型对下文有多意外，越低越好。 OpenWebText那块，也快到约10倍。 注意去处，它比的是扩散语言模型，不是逐字写的那一挂。 质量到底折没打折，得看同级参数。 同规模下，LM1B的困惑度还好过上家。 摘要那题分数不糙，代价只是快。 缺点也明显，前几层会漏字，会重复。 官网给的示范，要走到第十一步才通顺。 这本事用在哪，翻译摘要无条件生成都行。 数独这种要全局盘算的推理，也能插一脚。 三十条线索的难局，解开率八十六点多。 比老办法从，调用还省几次。 训练量也省，只花大模型的一个零头，挺离谱的。 但千万别拿它当万金油，现在生成器才一亿参数。 再往七点二五亿撑，还在试运气。 放得越大越值不值，它自己还没吃透。 逐字啃整本的活，眼下还轮不上它。 要是只让我挑个划重点的下手，这一位的性价比，我看着是真高。