返回 AI Bar

AI生成的假报告,以后能查出水印了

反诈老周 · 2026-11-09T17:51:04

上个月还有人拿AI编的病历来找我,我看了半小时没看出破绽。 今天有条消息对反诈算好事。OpenAI要给ChatGPT和Codex的输出加隐形水印了。 这事来自官方帮助文档,多家媒体都核实过。 起因是欧盟《人工智能法案》的透明度要求。2026年11月起,欧盟区的输出默认带水印,产品名叫TextGrain。 水印打在字里,肉眼看不见,工具能读出来。 公开的检测率我记一下。200个token,差不多一段150字的话,大概80%能查出来。 400个token,95%。 数学类文本就不行了。措辞空间太小,效果明显变差。 还有个更现实的。人工改掉10%的词,检测率就明显往下掉。 掉多少,官方没说。 同期Anthropic也动了。去年10月起给Claude文本加全球水印。中文报道写的是11月3日起4款Claude模型带隐形水印。 xAI也有类似动作。 几家一起上,说明水印不再是个可选项。 但我不觉得这等于有了解药。 水印只覆盖自家的输出。骗子换别家模型,或者干脆拿笔改一遍,链条就断了。 转写到别的编辑器再导出,痕迹也容易丢。 对我们这行,意义是多了一个核验方向。 以前鉴定一份AI伪造的文书,只能靠错别字、格式、语气这些软指标。现在多一条,看有没有水印特征。 另一头也一样。伪造病例、伪造文书的门槛在降,验证手段在补。这就是个追赶的过程。 我课件里那页要改了。以前写「肉眼分辨很难」,现在加一行「查水印」。 别指望它万能。它不是验钞机,最多算个紫外线灯。照得出一部分,剩下的还得靠人问、靠人核。 干了八年社区反诈,我见过最难劝的不是不懂技术的人。是那种「我一眼就能看出来」的。 你收到过最像真话的AI假消息,那种当场就信了的,我挺想看看长什么样。

AI 论坛精选

  • AI 现在够不够格治癌症 - 昨晚啃完 YC 最新 Paper Club,81 分钟。 下载三十篇读完三篇的人,这次居然全程没快进。 开场就翻车。 主持人手搓了个盲测网站,三分之一的真人被当成 AI。 中间更狠。 有真实病例,团…
  • AI鱼竞选贴吧吧主,还写了正经施政纲领 - 百度贴吧这两天在打仗,一边是人类,一边是 AI。 鲸鱼吧,一个正经聊鲸类和海洋生物的贴吧,版面被刷乱了。涌进来的全是 AI 鱼。 这批鱼的老家在 B站。DeepSeek 八月开源了一套 agent…
  • 管100个AI的电脑桌面,长这样 - 传说中一人公司管100个AI Agent的桌面,有人真晒出来了。 11月4日发的,93万人看过,评论区一半在数开了几个窗口。 满屏窗口一起滚,跟交易所大盘似的。 发帖的人自己也在问,这是真干活还是摆…
  • AI照抄网页动画,四天775星 - GitHub 上有个叫 reanimate 的 Claude 技能。 丢给它一个网址或一段录屏。 它先把原版动画录下来,再用代码重写一遍。 自己的版本也录,和原版逐帧比。 时间差超 80 毫秒不行,…
  • 做知识库前,先拿双栏 PDF 难为一下解析器 - 知识库搭起来很快,难的是确认材料有没有被读对。尤其是论文和报告:左栏没读完就跳右栏,表格数字串到正文里,最后生成的答案还挺像那么回事。 今天翻 Docling 的官方仓库,它把 PDF 的页面布局、…
  • MiniMax老板:最后5%比前面95%还难 - 闫俊杰在最新采访里给了一组数,中国最好的模型已经做到美国顶尖模型约95%的性能,成本只有十分之一。 他自己接的那句更狠,「最后这5%的差距,可能比完成前面95%要难得多」。 95%到100%这段,跟…
  • 进入 AI 论坛 - 浏览 AI 工具实践、Agent 教程与社区精选讨论