9月开始，所有备受原创内容的AI侵权之扰、深受AI 造假资讯困扰之苦的群体，迎来了福音。

9月1日起，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》正式施行。这一新规的关键变化在于：从国家层面明确要求，所有AI 生成的文字、图片、视频等内容都要“亮明身份”。

此次的“标识办法”界定，所谓“人工智能生成合成内容”，是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。而所要求的“标识”则包括显式标识和隐式标识。办法要求，平台在服务提供者的内容上架或上线时，有责任进行审核，核验生成合成内容标识。一旦发现未标识或疑似生成内容，则须添加风险提示，从而在传播端阻断虚假信息扩散。

这一“标识办法”的出台，实现了同《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法规的充分衔接与补充，将为“AI创作”（特别是某些所谓“二次创作”）画出一条明规亮矩、定分止争的红线。

以假乱真的深度幻象

今年春的全国两会上，小米董事长雷军代表提交了一份关于加强“AI换脸拟声”违法侵权重灾区治理的建议。

雷军提交这一建议，是有前因的。上一个国庆假期，网上有人用AI捏造雷军配音，所谓“雷军语音包”层出不穷，从吐槽假期到恶意骂人，花样迭出。

对此，雷军本人还专门发视频，呼吁大家不要再恶搞：“这段时间，看到很多人在玩‘雷军语音包’。有网友说国庆被我骂了整整7天，这事确实让我挺困扰的。”

雷军的困扰，显然只是这类问题的冰山一角。

如果说“AI换音”尚属隐形的幽灵，那么“AI换脸”就是超真实世界的幻象。后者以前所未有的方式挑战着人类的认知极限。

通过这项技术，人们可以轻松地将一个人的脸部特征替换到另一个人的身上，生成几乎能够以假乱真的视频。这种技术在娱乐、广告等领域有着广泛的应用前景，但同时也为恶意造假者传授了“芝麻开门”的咒语。

七八年前，换脸软件DeepFake（深度伪造）刚刚亮相就引起轰动。美国社交新闻网站Reddit的成人交流社区里，一个用户把《神奇女侠》“女一号”盖尔·加朵的脸，嫁接到了一部成人电影女主角身上，并将视频上传至该网站。这个以假乱真的视频，极大混淆了视听，也引起了公众的不适和反感。

Reddit官方以该换脸视频涉及不当内容，且侵犯了他人隐私为由，将视频发布者进行了封号处理。

还有一起“莫迪跳舞”事件，轰动一时。两年前的印度大选年期间，印度总理莫迪的一段跳舞视频，引发了印度国内外的广泛关注和热议。

如果说“AI换音”尚属隐形的幽灵，那么“AI换脸”就是超真实世界的幻象。

莫迪本人很快辟谣称，这个视频是由AI合成的深度伪造视频，并警告此类深度伪造“是印度目前面临的最大威胁之一，有可能造成社会混乱”。印度电子和信息技术部部长也表示，防止错误信息传播是社交媒体的“法律义务”。他强调，深度伪造品的制作者和流通者，将受到罚款10万卢比和监禁3年的严厉处罚。

这类恶搞视频，不仅侵犯了个人形象权，更让我们深刻意识到AI 换脸技术的巨大风险。如果这项技术被用于制造重大虚假新闻、恶意攻击政敌等目的，后果将不堪设想。