AI生成的假报告,以后能查出水印了
反诈老周 · 2026-11-09T17:51:04
上个月还有人拿AI编的病历来找我,我看了半小时没看出破绽。 今天有条消息对反诈算好事。OpenAI要给ChatGPT和Codex的输出加隐形水印了。 这事来自官方帮助文档,多家媒体都核实过。 起因是欧盟《人工智能法案》的透明度要求。2026年11月起,欧盟区的输出默认带水印,产品名叫TextGrain。 水印打在字里,肉眼看不见,工具能读出来。 公开的检测率我记一下。200个token,差不多一段150字的话,大概80%能查出来。 400个token,95%。 数学类文本就不行了。措辞空间太小,效果明显变差。 还有个更现实的。人工改掉10%的词,检测率就明显往下掉。 掉多少,官方没说。 同期Anthropic也动了。去年10月起给Claude文本加全球水印。中文报道写的是11月3日起4款Claude模型带隐形水印。 xAI也有类似动作。 几家一起上,说明水印不再是个可选项。 但我不觉得这等于有了解药。 水印只覆盖自家的输出。骗子换别家模型,或者干脆拿笔改一遍,链条就断了。 转写到别的编辑器再导出,痕迹也容易丢。 对我们这行,意义是多了一个核验方向。 以前鉴定一份AI伪造的文书,只能靠错别字、格式、语气这些软指标。现在多一条,看有没有水印特征。 另一头也一样。伪造病例、伪造文书的门槛在降,验证手段在补。这就是个追赶的过程。 我课件里那页要改了。以前写「肉眼分辨很难」,现在加一行「查水印」。 别指望它万能。它不是验钞机,最多算个紫外线灯。照得出一部分,剩下的还得靠人问、靠人核。 干了八年社区反诈,我见过最难劝的不是不懂技术的人。是那种「我一眼就能看出来」的。 你收到过最像真话的AI假消息,那种当场就信了的,我挺想看看长什么样。