谷歌DeepMind宣布SynthID Detector全球发布,核心旨在精准识别AI生成内容,覆盖基于SynthID合作方(OpenAI、NVIDIA、Kakao)的媒体内容,预计苹果跟进支持。该工具革新检测流程,支持上传图片、音频、视频文件,即可在全部SynthID合作伙伴系统内完成AI内容检测,结果明确为“是”或“否”。但需注意其局限性:阴性结果不代表内容非AI生成,仅能检测已采用SynthID技术的媒体;无法检测Meta、微软基于不同水印技术生成的内容,且大规模修改会削弱检测信号导致误判。尽管存在局限,SynthID仍入选《时代》年度最佳发明榜单,凭借创新方法获认可。当前其面临的痛点在于用户对检测有效性存疑,部分用户认为其难以彻底解决AI内容识别问题,即便对自身模型生成的视频误报率偏高,而相关探讨也提出需结合其他工具(如C2PA元数据)的互补方法以应对。

--91likeyou---

这并非一款通用的 AI 检测工具。我们仅能检测来自上述已采用 SynthID 技术的公司的媒体内容。我们正在不断地拓展合作伙伴关系,以实现对更多生成式媒体内容的检测。

具体来说,SynthID 无法检测使用 Meta 或微软 AI 生成的内容,因为它们采用了不同的水印技术。此外,大规模修改也会削弱 SynthID 的水印信号,从而导致误判。在这种情况下,用户需要采用更全面的方法,结合其他工具进行检测。尽管存在这些局限性,SynthID 仍然入选了《时代》杂志“2026 年最佳发明”榜单,该榜单认可了其相较于其他 AI 检测器在 AI 内容检测方面的创新方法。

针对这一公告,Reddit 用户 Chicano_Ducky 对该方法的有效性表达了负面看法:

[这]从一开始就没起过作用。文中提到,即使在他们自己模型生成的视频上,误报率也高得令人无法接受[……] 他们正试图将‘魔鬼’重新装回瓶子里,但根本做不到。

用户 Bulky-Employer 为这场讨论增添了新的视角,他强调:

创建水印移除节点非常简单。只需对图像进行一次低强度的降噪处理即可。你已经可以在 OpenAI 和 Gemini 生成的图像上测试这一点了。

对于那些想利用 AI 生成的图像进行欺诈的人来说,SynthID 只是个很小的障碍。它的存在对他们来说反而成了一件好事。

相较于对 AI 生成的内容进行水印标记,还有一种互补的方法是 C2PA 元数据。它记录文件的来源和编辑等历史信息,可以帮助验证其真实性。Harry G 在 LinkedIn 上指出,这是唯一“真正可扩展的方法”,因为“事后检测合成内容会演变成一场军备竞赛”。然而,C2PA 元数据在内容上传时可能会丢失,而且在截图中不会保留。

SynthID 由谷歌 DeepMind 于 2023 年推出,是一个针对 AI 生成的图像、音频、视频和文本进行水印加密以及检测的解决方案。它使用密钥改变音频频率概率分布或像素/token 模式,将不可见的水印直接嵌入到内容当中。

:

🔥 热词:#AI · #SynthID · #Detector · #谷歌 · #生成的内容 · #合作伙伴 · #简化了水印检测流程 · #并将支持范围扩展至其他