“部分AI克隆工具对于使用者来说没有任何输入限制，只需输入克隆对象的语音或人脸照片即能生成克隆音频或视频，如果被恶意利用，会产生很大风险。”中国网络空间安全协会人工智能安全治理专业委员会专家、天融信(002212.SZ)科技集团副总裁薛智慧表示，当前AI克隆技术的应用场景广泛，包括娱乐影视制作、语音助手、医疗康复等领域，但同时该技术也会带来隐私泄露、欺诈和虚假信息传播等潜在安全隐患。

央视近日报道称，从恶搞企业家雷军到AI制作张文宏医生音视频为自己带货，甚至还有不法分子利用AI深度合成视频，进行诈骗。过去一年，AI深度合成音视频侵权现象愈演愈烈。实现AI深度合成音视频并不算难事，甚至在一些购物平台，AI深度合成技术已经成为众多网店牟利的工具，只需花费几十元，就可定制AI深度合成名人音视频。

薛智慧在接受央视采访时介绍，当前有很多开源的软件和工具都可以实现换声换脸的效果，可供网民自由下载，在自己的电脑上进行安装和使用。与之相对的是，以AI技术对抗和检测AI克隆的水平也进一步提升。当前有一些典型AI鉴伪技术，能够对这些图片或者音视频进行检测，来判断或者分析这些图片是否是后期加工和合成的。

同时，中国计算机学会计算机安全专业委员会委员、天融信科技集团副总裁吕延辉提示，在网络购物平台使用AI深度合成技术，制作出售名人的音视频，会触犯相关法律。据了解，《中华人民共和国民法典》规定，自然人享有肖像、声音等权益，任何组织或个人利用信息技术伪造都是侵权行为。2023年国家网信办、工信部、公安部联合发布出台的《互联网信息服务深度合成管理规定》要求，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。2024年网信办发布的《人工智能生成合成内容标识办法(征求意见稿)》也提出，对AI生成合成内容要进行标识，以便公众识别和区分，防止误导性信息传播。

吕延辉在采访中进一步表示，防范AI侵权问题需要从法律、平台和公众等多个层面综合施策。法律层面，要进一步完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，同时加强执法力度。平台层面，要强化相关政策法规的宣贯和执行，做好已有数据的保护，应用技术手段来规避AI克隆侵权问题的发生，同时也要建立健全内容审核和侵权举报机制，及时发现和处理侵权问题。