谷歌推出SynthID检测工具：识别AI生成内容的公众新武器

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

一只浣熊坐在桌前享用三明治的视频，成为谷歌展示最新AI内容识别能力的典型案例。这段采用夜视风格拍摄的片段，因其高度逼真的视觉效果，极易在社交平台引发传播热潮，也凸显了当前真实与合成内容之间的界限日益模糊。

生成式AI挑战真实边界

随着生成式人工智能技术的发展，用户仅需输入简单指令即可快速创建高仿真图像、视频、音频和文本。自然杂志2024年11月曾警示，此类技术已具备伪造科学数据的能力，对信息可信度构成严重威胁。

SynthID：嵌入数字水印的AI溯源系统

为应对这一挑战，谷歌旗下DeepMind研发的SynthID系统应运而生。该系统自2023年起便在使用谷歌AI服务创作的内容中自动嵌入不可见的数字水印——一种人眼或听觉无法察觉的隐形标识。

10月7日，谷歌宣布将SynthID检测功能全面开放给全球用户。此前，该工具仅限新闻机构与专业媒体使用。现在，任何个人均可上传图像、视频或音频文件，通过在线工具判断其是否包含谷歌体系内的水印标记。

规模庞大的数字追踪网络

据谷歌披露，截至目前，已有超过1800亿张图像和视频、以及累计长达24万年的音频内容被添加了水印。相关验证功能已集成至搜索引擎、Gemini应用及Chrome浏览器中，每日处理请求量突破百万次。

检测范围与局限性

SynthID目前仅能识别由谷歌自身及其合作伙伴（包括OpenAI、英伟达、Kakao等）生成的媒体内容。苹果公司预计也将加入该生态。而对于其他非合作方的生成器输出，系统可能无法识别。

此外，该检测器目前仅支持英文界面，且谷歌未公布具体识别准确率。尽管存在局限，其推广仍具有深远意义。

微软联合创始人、盖茨基金会主席比尔·盖茨在8月26日撰文指出：“由人工智能驱动的欺诈、虚假信息、深度伪造和监控，将成为普通人日常生活中的主要风险。”他强调，这项技术可能让原本影响力有限的个体获得前所未有的操控力。

而作为SynthID的合作方，OpenAI首席执行官山姆·阿尔特曼则持更乐观态度。他在10月4日接受《政客》采访时坦言：“世界必须容忍一些负面影响，才能享受这项技术带来的巨大进步。”他认为，善用AI的成果远大于滥用所带来的危害。

此次发布，标志着数字水印技术从专业领域走向大众视野。辨别真实与合成内容，正从媒体编辑的专业技能，演变为每个数字公民都需掌握的基本素养。