据央视新闻报道，从恶搞企业家雷军到 AI 制作张文宏医生音视频为自己带货，甚至还有不法分子利用 AI 深度合成视频，进行诈骗。过去一年，AI 深度合成音视频侵权现象愈演愈烈。
此前就曾有网友曾利用 AI 制作的刘德华声音，为自己博取流量，刘德华电影公司还紧急发布声明提醒网民，不要落入伪造刘德华声音的 AI 语音合成技术骗局。
记者调查发现，实现 AI 深度合成音视频并不算难事，甚至在一些购物平台，AI 深度合成技术已经成为众多网店牟利的工具，只需花费几十元，就可定制 AI 深度合成名人音视频。
AI在线从报道获悉，深度合成软件在网络下载不难，有数十种开源软件和工具可实现换声换脸。虽因需调整参数、步骤多，有一定技术门槛，但短视频平台众多主播在教学。
专家表示，相关法律法规明确规定，未经授权，不得深度合成制作发布他人信息。网店接单 AI 深度合成制作名人视频，已经属于侵权行为，并应该承担相应的法律责任。
在司法实践中，国内已经审结了首例 AI 生成声音人格权侵权案。在这个案子里，原告作为配音演员，在没有经过授权的情况下，他的声音被 AI 生成后对外出售。法院在审理中认为，我国的民法典已经在人格权编，将自然人的声音视为一种人格权益，具有人身专属性。所以，法院最终认定被告的行为构成侵权。
