小猫小狗伴随音乐跳起肚皮舞，刚学会走路的婴儿亲切喊着奶奶，各大名山脚下漫山遍野的油菜花田怒放……短视频平台上，这类热门视频动辄点赞、收藏破10万。但不少人看完后会想，这些“神奇”视频到底是真是假？

类似的疑惑，将被解开。近日，四部门联合印发《人工智能生成合成内容标识办法》（以下简称《标识办法》），明确要求对可能导致公众混淆或者误认的生成合成内容添加显式标识。

AI生成合成内容须添加标识

近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《标识办法》，自9月1日起施行。

合成内容中应添加“显式标识”和“隐式标识”，是《标识办法》的一大特色。显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识；隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

《标识办法》提出，服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识，在提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识；应当在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。

规范AI拼凑视频营销账号

“刘德华送电影票支持哪吒？”“批量AI孙子做饭卖萌攻陷老人”“AI明星换脸视频诈骗粉丝”……近段时间以来，由一批营销账号批量制造的AI视频正在迅速占领平台，并成为许多中老年人日常观看内容。

“造谣类AI视频是最容易侦破的，处理起来最棘手的就是介于真假之间、带娱乐性质和情感需求的AI视频。”有业内人士对记者透露，这类AI视频已形从起号、生产、推流、分销带货的完整产业链，吸引大量触网经验不深的中老年人，且难以直接判定其违规。

“用户刷到AI生成的内容营销广告时，一眼看到显式标识，将避免被虚假宣传误导。”北京大模型企业新壹科技副总裁毛木子告诉记者，新规出台将提升内容可信度，辅助遏制虚假信息传播，今后当营销号使用AI批量生成营销内容时，必须规范标注，否则可能面临处罚。

中国科学院计算技术研究所数字内容合成与伪造检测实验室主任曹娟表示，《标识办法》从内容标识这一关键环节入手，以主动防御、行业自主的方式构建全流程的规范要求，可以有效应对炮制虚假信息等误用、滥用生成合成技术的行为。

多平台跟进但旧视频仍待梳理

“宝宝和大公鸡较量起来了，一言不合就干架……”最近，市民李先生的母亲刷到一条点赞破3万的短视频，其下方出现“疑似使用AI生成技术，请谨慎甄别”的显著标识。李先生长舒一口气：“这下我也不用和老人争论真假了，一眼可见。”

《标识办法》提出，互联网应用程序分发平台在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务，并核验其生成合成内容标识相关材料。

记者发现，目前多个短视频平台上新近发布的视频已出现显式标识提示。还有部分作者主动给作品添加“AI生成创作”声明。不过，仍有大量过往发布的AI生成视频尚无任何标识或提示。

对此，有平台相关负责人对记者表示，平台对相关内容的识别和审核能力持续面临挑战。“如果过往AI生成类视频热度走高，平台会再次进行识别并进行标注。”还有平台称，审核标识旧视频工作量巨大，将持续一段时间来完成这项工作。

“大模型生成技术迭代更新很快，平均两个月就会出现新的里程碑模型，提升针对新生伪造方法的泛化能力至关重要。”曹娟表示，应摒弃“来一个打一枪”的事后思维，构建AI鉴伪底座模型，以大模型对抗大模型。（记者 袁璐）