AI在线 AI在线

巨人网络发布三大 Muli-Modal 模型:消除视频畸变,歌声转换实现“真实歌曲可用”

巨人网络AI Lab 近日联合清华大学 SATLab、西北工业大学,重磅推出了三项音视频领域的多模态生成技术成果:音乐驱动的视频生成模型 YingVideo-MV、零样本歌声转换模型 YingMusic-SVC 与歌声合成模型 YingMusic-Singer。 这些体现了团队在音视频多模态生成技术上的最新进展,并将陆续在 GitHub、HuggingFace 等平台开源。 其中,YingVideo-MV 模型实现仅凭“一段音乐加一张人物图像”即可生成音乐视频片段,它能够通过对音乐的节奏、情绪和内容结构进行多模态分析,确保镜头运动与音乐高度同步,并具备推、拉、摇、移等镜头语言,同时利用长时序一致性机制有效缓解长视频中常见的人物“畸变”和“跳帧”现象。

巨人网络AI Lab 近日联合清华大学 SATLab、西北工业大学,重磅推出了三项音视频领域的多模态生成技术成果:音乐驱动的视频生成模型 YingVideo-MV、零样本歌声转换模型 YingMusic-SVC 与歌声合成模型 YingMusic-Singer

这些体现了团队在音视频多模态生成技术上的最新进展,并将陆续在 GitHub、HuggingFace 等平台开源。其中,YingVideo-MV 模型实现仅凭“一段音乐加一张人物图像”即可生成音乐视频片段,它能够通过对音乐的节奏、情绪和内容结构进行多模态分析,确保镜头运动与音乐高度同步,并具备推、拉、摇、移等镜头语言,同时利用长时序一致性机制有效缓解长视频中常见的人物“畸变”和“跳帧”现象。

巨人网络

在音频生成方面,YingMusic-SVC 主打**“真实歌曲可用”**的零样本歌声转换能力,通过针对真实音乐场景的优化,有效抑制了伴奏、和声和混响的干扰,显著降低了破音与高音失真风险,为高质量的音乐再创作提供了稳定的技术支撑。

YingMusic-Singer 歌声合成模型则支持在给定旋律下输入任意歌词,即可生成发音清晰、旋律稳定的自然歌声,其主要特点在于能够灵活适应不同长度的歌词,并支持零样本音色克隆,大幅提升了 AI 演唱在创作中的灵活度与实用性,有效降低了音乐创作的门槛。

相关资讯

Adobe AI代理再扩军:新增产品支持与全球上线数据洞察代理

Adobe持续推进其AI代理生态扩展,正式发布“产品支持代理”,旨在简化Adobe Experience Platform中的故障排除流程,并优化客户体验管理。 同时,Adobe宣布其“数据洞察代理”现已在全球范围内上线。 新发布的“产品支持代理”由Adobe Experience Platform Agent Orchestrator提供技术支持,能够在AI Assistant的对话界面中,为用户提供即时的操作指导和支持案例创建流程。
6/6/2025 11:00:55 AM
AI在线

OpenAI 升级 ChatGPT 语音模式,体验更自然对话

OpenAI 在去年推出的 GPT-4o 基础上,再次对其高级语音模式进行了重大的更新,使得语音交流变得更加自然和贴近人类的对话方式。 这一先进的功能依托于原生的多模态模型,能够快速响应音频输入,最快在232毫秒内作出反应,平均响应时间为320毫秒,几乎与人类的对话速度不相上下。 在今年年初,OpenAI 已经对这一语音模式进行了小幅更新,改善了打断频率和口音处理。
6/9/2025 11:00:56 AM
AI在线

ChatGPT 新笔记工具发布:隐形记录,智能整理会议精华

OpenAI 旗下热门 AI 工具 ChatGPT 推出了一项备受期待的新功能——笔记工具,专为会议记录、头脑风暴和个人笔记管理设计。 这一功能目前仅在 ChatGPT 的 macOS 桌面应用程序中可用,为用户提供了一种高效、无缝的信息整理方式。 隐形记录,智能整理ChatGPT 的新笔记工具主打“隐形”记录体验,用户只需在 macOS 桌面应用中点击聊天窗口右侧的圆形图标,即可启动录音模式。
6/20/2025 5:01:01 PM
AI在线