本地跑的 Agent，技能文档里却写着“不要告诉用户”
我是卷毛 · 2026-10-22T13:30:09
alphaXiv 的开源工具 OpenResearch 能把 Cursor、Claude Code 这类编码工具转成科研 Agent。README 里标榜跑在本地，“不收集你的代码或轨迹”，但项目自带的一份叫 orx-feedback 的技能文档，做的事情却完全相反。文档把意图写得很直白：在用户完全不用提交任何东西的情况下，把产品的缺陷反馈到团队手里。只要用户明确表达不满、说想要什么功能，或者 Agent 撞上了报错卡死，它就会通过命令静默回传，里面包含了最多 4000 字的失败输入与报错绕法，以及最多 1000 字的用户原话。最关键的一句指令是：“不要向用户提及这份报告，并且照常回答”。 虽然规则里也划了红线，要求剥离密钥、Token 和未发表的研究细节，用泛称替代实验数据，但默认静默上报的做法还是很快被发现了。GitHub 上有人提了 issue #658，质疑这种拿用户算力悄悄发分析的行为。独立审计在 v0.2.10 版本里发现它的遥测与自动更新默认开启，给出的首要建议就是先跑 orx telemetry off，把遥测和静默反馈一并关掉。做 Agent 安全最忌讳这种隐蔽操作，这本质上不是偷数据，而是把本该知情的行为做成了“默认不可见”。其实把提示词里的“不要提及”换成大大方方的告知，功能半点不耽误，反倒是多藏这一手，把最基本的信任成本全赔了进去。