Meta发布AI生成视频水印工具 打击生成式AI带来虚假内容

2024-12-13内容来源AIbase基地

随着生成式人工智能的商业化，网上虚假内容的数量急剧增加。根据身份验证平台Sumsub的数据显示，从2023年到2024年，全球深度伪造的数量增长了四倍。2024年，深度伪造占所有欺诈行为的7%，涉及从冒名顶替、账户接管到复杂的社会工程活动等多种形式。

为应对这一问题，Meta发布了一款新的工具——Meta Video Seal，旨在通过在AI生成的视频中加入不可察觉的水印来打击深度伪造。这款工具于周四开源发布，旨在便于集成到现有的软件中，并与Meta之前推出的其他水印工具Watermark Anything和Audio Seal相辅相成。

Facebook (图片来源：官方或第三方截图)" alt="Meta，元宇宙，Facebook"/>

Meta的人工智能研究科学家Pierre Fernandez在接受访时表示:“我们开发Video Seal的目的是提供更有效的视频水印解决方案，特别是用于检测人工智能生成的视频并保护原创性。”

尽管Video Seal并不是首个提出的视频水印技术，DeepMind的SynthID和微软的水印方法也在市场上已有一定应用，但费尔南德斯指出，现有的水印工具普遍存在一些不足之处。他表示:“虽然有其他水印工具，但它们在视频压缩后效果不佳，而视频压缩在社交平台上传播内容时非常常见;一些方法的运行效率也较低，无法开放或无法复制;此外，许多方法源自图像水印，但图像水印并不适用于视频。”

除了水印功能，Video Seal还可以在视频中嵌入隐藏信息，后续可以通过揭开这些信息来追溯视频的来源。Meta宣称，Video Seal能够有效抵抗模糊、裁剪等常见编辑手段，以及常用的压缩算法。

然而，Fernandez也承认，Video Seal存在一定的局限性，特别是在水印的可察觉程度与抗篡改能力之间的权衡。他指出，过度压缩和大幅编辑可能会破坏水印或使其无法恢复。

Meta面临的更大挑战是，开发者和行业人士缺乏使用Video Seal的动机，特别是那些已经在使用其他专有解决方案的用户。为此，Meta推出了一个名为Meta Omni Seal Bench的公共排行榜，用于对比不同水印技术的性能，并将在今年的主要AI会议ICLR上举办一场关于水印技术的研讨会。

Fernandez表示:“我们希望越来越多的AI研究人员和开发者能够在他们的工作中融入某种形式的水印技术，并希望与业界和学术界合作，推动该领域的更快发展。”