过去一年，AI深度合成音视频侵权现象愈发严重。从恶搞企业家雷军到利用AI制作张文宏医生的音视频进行带货，甚至有不法分子通过AI深度合成视频实施诈骗。此前，曾有网友使用AI合成的刘德华声音博取流量，刘德华电影公司紧急发布声明提醒网民警惕此类骗局。记者调查发现，在一些购物平台上，只需花费几十元就能定制AI深度合成名人音视频。
实现AI深度合成音视频并不难。记者在手机应用商城搜索换脸换声工具时，发现了众多相关软件。虽然这些换脸工具设定了固定场景且逼真度不高，但专家表示，目前有许多开源软件和工具可以实现高逼真的换声换脸效果。尽管这类软件具有一定的技术门槛，但在短视频平台上，许多主播正在教授网友如何使用这些工具。
未经授权制作并出售名人的音视频属于侵权行为。根据《中华人民共和国民法典》，自然人享有肖像、声音等权益，任何组织或个人利用信息技术伪造都是侵权行为。2023年，国家网信办、工信部、公安部联合发布了《互联网信息服务深度合成管理规定》，要求不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。2024年，网信办发布的《人工智能生成合成内容标识办法（征求意见稿）》也提出，对AI生成合成内容要进行标识，以便公众识别和区分，防止误导性信息传播。
在司法实践中，国内已审结首例AI生成声音人格权侵权案。原告作为配音演员，在未经授权的情况下，其声音被AI生成后对外出售。法院最终认定被告的行为构成侵权。不仅是名人，普通人甚至动画形象，如果未经本人或版权方同意，用AI合成制作其音视频也属侵权行为。
