跳到主要内容
教程

RVC 模型训练教程:用自己的声音训练 AI 变声模型(2026)

RVC 模型是什么、怎么训练?讲清检索式语音转换原理,它和 TTS、零样本克隆的区别,用 RVC WebUI 训练自己声音模型的完整步骤,变调、检索特征占比等参数,以及授权合规要点。

编辑团队更新于 2026年10月2日8 分钟阅读
RVC 模型训练教程:用自己的声音训练 AI 变声模型(2026)
本文目录

在 B 站刷到过 AI 翻唱,或者想给自己的直播装一个实时变声器?背后很可能就是 RVC 模型。RVC 是 Retrieval-based Voice Conversion 的缩写,中文常叫检索式语音转换:输入一段真人说话或唱歌的录音,它能把音色换成你训练好的那个声音,歌词、节奏和旋律都不变。只要有 10 分钟左右的干净录音和一张还过得去的显卡,就能训练出属于自己的 RVC 模型。这篇教程讲清 RVC 的原理,它和文字转语音、零样本克隆的区别,WebUI 的安装、训练和推理参数,以及必须守住的授权底线。

RVC 模型是什么:检索式语音转换的原理

RVC 是一种声音转声音的技术,它不认字。你给它一段表演(你说的一句台词或唱的一段歌)和一个训练好的音色模型,它输出同一段表演,只是换成了模型的音色。一次转换大致分四步:

  1. 提取内容:用自监督语音模型(项目致谢里列出了 HuBERT 和 ContentVec)把输入音频变成特征,记录“说了什么”,尽量不带“谁在说”的信息。
  2. 提取音高:音高提取算法跟踪输入的旋律。当前版本默认用 RMVPE,README 称它效果最好、速度快、资源占用小。
  3. 检索替换:这就是 RVC 里的“检索”。训练时,训练集的特征会存进一个索引文件;转换时,RVC 在索引里找最接近的特征替换进去,用来减少“音色泄漏”,也就是原唱的音色混进结果里。
  4. 合成声音:基于 VITS 和 HiFi-GAN 的生成器把这些信息还原成目标音色的音频。

因为输入是真人表演,RVC 会完整保留演绎细节:停顿、重音、情绪、颤音,甚至唱错的地方。这是它在翻唱和配音里好用的原因,也是它最大的限制。

RVC、文字转语音和零样本克隆有什么区别

这三种技术经常被统称为“AI 配音”,解决的却是不同的问题。

对比项文字转语音零样本声音克隆RVC 语音转换
输入文字文字加一段短参考音频一段录好的或实时的表演
是否训练不用不用要,用 10 分钟以上的目标声音
硬件浏览器浏览器强烈建议有显卡
保留你的演绎否否是
适合预设音色朗读旁白用你的声音读新文案翻唱、角色配音、实时变声

不想训练模型?先看看零样本克隆

如果你的目标是用自己的声音做口播、课程或短视频配音,训练 RVC 模型就绕远了。零样本克隆只需要 10 到 30 秒录音就能学到你的音色,然后朗读任何文字,我们的 AI 声音克隆工具用的也是这种方式,参考音频怎么录可以看声音克隆教程。如果只要一个好听的声音,不在乎像不像自己,选文字转语音的预设音色更省事。

RVC 值得折腾的场景是:要转换歌声,要原样保留某一段表演,要实时变声,或者希望所有数据都留在自己电脑上。

准备工作:RVC WebUI 项目、显卡和安装

最主流的开源项目是 GitHub 上的 RVC-Project/Retrieval-based-Voice-Conversion-WebUI。截至 2026 年 10 月,项目采用 MIT 协议,没有归档,星标超过 3.8 万,最新发行版 2.3.260718 发布于 2026 年 7 月。它的底模用接近 50 小时的开源 VCTK 数据集训练。README 里预告了 RVCv3 底模,目前界面可选 v1 和 v2,默认 v2。

显卡和环境

当前分支面向 Python 3.12(64 位),推荐 Ubuntu 24.04,Windows 也能用。依赖按显卡选择:

硬件README 给出的安装方式
N 卡 RTX 50 系列先装 CUDA 12.8 版 PyTorch,再装 cu128 依赖文件
更早的 N 卡先装 CUDA 11.8 版 PyTorch,再装 cu118 依赖文件
A 卡、I 卡使用 CPU 依赖方案,Windows 可用 DirectML

显存方面,项目常见问题解答认为 4G 显存调低 batch size 后可以用,再低不建议。没有可用显卡时界面会提示改用 CPU 训练,耗时会长很多。

安装流程

  1. 创建 Python 3.12 虚拟环境,按显卡安装对应的依赖文件。依赖文件默认使用国内镜像源,在国内下载通常更顺。
  2. 从项目的 Hugging Face 仓库下载 HuBERT、RMVPE 和 v2 预训练底模,放进 assets 目录,Windows 还要把 ffmpeg 放到项目根目录。
  3. 运行 python webui.py(Windows 可双击 go-webui.bat),浏览器打开 7865 端口。

很多人会直接下载网上流传的“整合包”。整合包省事,但来源五花八门,最好从项目的 GitHub 发行页和官方 Hugging Face 仓库获取文件。没有显卡的话,项目 Wiki 里有用 AutoDL 租云端 GPU 训练的教程,也可以选别的云平台,上传声音素材前先读清平台的使用条款。

训练集:怎么录好自己的 10 分钟声音

模型只会模仿它听过的声音,训练集决定了效果上限。

  • 时长:README 建议至少 10 分钟低底噪语音,FAQ 推荐 10 到 50 分钟。宁可短而干净,也不要长而杂。
  • 只录你自己:只用你本人的声音,或者已经取得对方书面授权的声音。不要用多人访谈、直播回放里混着弹幕音效和背景音乐的片段。
  • 每次录音条件一致:同一支麦克风、同一个房间、同样的距离。有窗帘、床和衣柜的小房间比空旷的客厅好,别在卫生间和楼道里录。
  • 覆盖你的音域:正常说话之外,再录一些大声和小声的段落。要训练唱歌模型,就把你舒服的音域从低到高都唱到,训练集里没有的高音和低音,转换时最容易破音。
  • 适度清理:剪掉咳嗽、口水音、长时间静音和别人的声音。降噪别开太狠,降噪留下的电音也会被模型学走。素材里有伴奏的话,WebUI 自带 pymss/MSST 人声分离和去混响工具。
  • 路径用英文:把 WAV 文件放进一个英文路径的文件夹。

不需要自己把音频切成很多小段,WebUI 在处理数据这一步会自动切片和归一化。

RVC 模型训练步骤:从处理数据到训练索引

训练在 WebUI 的“训练”页完成,下面的名称都来自当前的中文界面。

第 1 步:填写实验配置

  • 输入实验名:用简短的英文名,比如 myvoice。
  • 目标采样率:40k(默认)或 48k。
  • 模型是否带音高指导:界面原话是“唱歌一定要,语音可以不要”,不确定就保持开启。
  • 版本:v2(默认)或 v1。

第 2 步:处理数据和特征提取

先填训练文件夹路径,点击“处理数据”,WebUI 会扫描、切片并归一化音频。然后在“选择音高提取算法”里选 pm 或 rmvpe(README 推荐 rmvpe),点击“特征提取”,提取音高和 HuBERT 特征。

第 3 步:训练模型和索引

  • 总训练轮数 total_epoch:默认 20。FAQ 的经验是素材一般时 20 到 30 轮就够,素材干净且时长充足可以加到 200 轮左右。
  • 保存频率 save_every_epoch:每隔几轮保存一次,默认 5。
  • 每张显卡的 batch_size:显存不够就调低。
  • 是否缓存所有训练集至显存:只有 10 分钟以下的小数据才值得开。
  • 是否在每次保存时间点将最终小模型保存至 weights 文件夹:想对比不同轮数的效果就打开。

依次点击“训练模型”和“训练特征索引”,也可以用“一键训练”按顺序跑完所有步骤。轮数不是越多越好,用同一段测试音频听几个保存点,留下最自然的那个。训练完成后,小模型是 assets/weights 里的 .pth 文件,索引是 assets/indices 里的 .index 文件。

RVC 推理参数:变调、检索特征占比和保护清辅音

转换音频在“模型推理”页:在“推理音色”里选你的模型,索引路径会自动匹配,再上传一段干净、没有混响的人声。真正影响结果的是下面这几个参数:

参数作用建议起点
变调以半音为单位升降,12 升一个八度,-12 降一个八度输入和模型音域接近时用 0;男声转女声可先试 12 左右,女声转男声先试 -12 左右,再凭耳朵微调
音高提取算法可选 pm、rmvpe、fcpe默认的 rmvpe
检索特征占比越高越贴近训练集的音色和口音,太高会出现杂音默认 0.75,听到杂音就调低
保护清辅音和呼吸声防止呼吸声和清辅音撕裂,拉满 0.5 等于关闭,调低保护更强默认 0.33
音量包络融合比例越接近 0 越贴近输入的音量起伏,越接近 1 音量越平默认 0.25
后处理重采样输出采样率,0 为不重采样0

比调参更管用的是输入质量:先把人声和伴奏分开,别用带混响的人声,尽量让输入音域接近模型,不要靠极端的变调值硬拉。

实时变声

项目另外提供实时变声界面,Windows 双击 go-realtime_gui.bat 启动。README 的数据是端到端延迟约 170ms,使用 ASIO 输入输出设备时约 90ms,但很依赖硬件驱动。用来直播或语音聊天时试效果可以,要做成品还是先录再转更可控。

让伴奏跟上变调后的人声

做翻唱时,如果人声升降的不是整八度,伴奏也要升降同样的半音数,否则调就对不上。我们免费的在线变调工具可以在浏览器里给伴奏升降调且不改变速度,调性检测工具能帮你确认歌曲原调和变调后的调。

给伴奏升降调,和人声对上

最多升降 12 个半音,速度不变。在浏览器里本地处理,音频不会上传。

打开在线变调工具

RVC 的局限和常见问题

RVC 换的是音色,别的基本不管。输出的节奏、口音、咬字和情绪都来自输入表演,不来自模型,所以平淡的输入转出来还是平淡。用说话素材训练的模型唱歌常常不行,反过来也一样。另外,Python 环境、显卡驱动和模型文件都要配齐,折腾成本不低。

问题常见原因解决办法
听起来还像原唱音色泄漏适当调高检索特征占比,确认加载了正确的索引
呼吸声和齿音发电、撕裂保护不足,输入有噪音调低保护参数,先清理输入
高音或低音破音超出训练集的音域补录对应音域,调整变调
声音发闷、像机器人训练集有噪音或降噪过度重录更干净的素材再训练
轮数越多越难听素材有限,过拟合换回更早的保存点
显存溢出报错batch size 太大调低 batch size

授权与合规:哪些声音可以拿来训练

音色模型就是一份可以反复使用的声音复制品,要按这个分量来对待。

只用自己的声音,或取得书面授权。 别人同意你训练他的声音,最好写清用途、范围、使用期限,并约定对方可以撤回。明星、歌手、主播、配音演员和身边的普通人,没有授权都不能训练,“只是玩玩”的 AI 翻唱也不例外。

软件本身不替你担责。 WebUI 界面上的声明写得很清楚:软件以 MIT 协议开源,作者对软件没有任何控制力,使用软件者、传播软件导出的声音者自负全责。

国内的法律已经覆盖到 AI 声音。 《民法典》规定,对自然人声音的保护参照适用肖像权保护的有关规定。据人民日报 2024 年 10 月的报道,北京互联网法院审理的 AI 声音侵权案认定:AI 声音与本人的音色、语调、发音风格高度一致、能让人联想到本人时就受保护,而且对录音制品的授权并不意味着对声音 AI 化的授权。《互联网信息服务深度合成管理规定》自 2023 年 1 月 10 日起施行,第十四条要求提供人声编辑功能时,提示使用者依法告知被编辑的个人并取得其单独同意;第十七条要求合成人声、仿声等内容作显著标识。《人工智能生成合成内容标识办法》自 2025 年 9 月 1 日起施行,要求在音频的起始、末尾或中间适当位置添加语音提示等标识。

发布时标注。 在简介或画面里写明“本音频使用 AI 变声”,很多内容平台也要求创作者声明 AI 生成内容。

以上只是一般性说明,不构成法律意见。法规和平台规则会更新,涉及商业用途或他人声音时,请以最新规定为准,必要时咨询专业律师。

不想训练模型,也能用上自己的声音

在浏览器里录 10 到 30 秒参考音频,用零样本克隆代替训练。登录后输入文字即可生成,每 20 字 1 积分。

试试声音克隆
FAQ

常见问题

RVC 模型是什么意思?+

RVC 是 Retrieval-based Voice Conversion 的缩写,中文常叫检索式语音转换。它属于“声音转声音”:输入一段真人说话或唱歌的录音,用训练好的音色模型把它换成另一个人的音色,内容、节奏和旋律保持不变。最常用的实现是 GitHub 上以 MIT 协议开源的 RVC WebUI。

训练 RVC 模型需要多长的素材?+

项目 README 建议至少准备 10 分钟低底噪的语音,常见问题解答里推荐 10 到 50 分钟。素材干净比时长更重要:15 分钟安静、稳定的录音,效果通常好过 1 小时带回声和背景音乐的素材。

没有独立显卡能训练 RVC 吗?+

能,但会慢很多。A 卡和 I 卡按 README 安装 CPU 依赖方案,Windows 上可以用 DirectML。项目 FAQ 认为 4G 显存调低 batch size 后还能用,更低不建议。没有合适的显卡,也可以租用云端 GPU,上传素材前先看清平台的使用条款。

RVC 能直接把文字转成语音吗?+

不能。RVC 只做声音到声音的转换,必须先有人把内容说出来或唱出来。有人会先用文字转语音生成音频再交给 RVC 换音色,但如果只是想让自己的声音朗读文案,零样本声音克隆用 10 到 30 秒录音就能做到,不需要训练。

RVC 训练轮数设多少合适?+

界面默认 20 轮。项目 FAQ 的建议是:素材质量一般、底噪较大时,20 到 30 轮就够了,再多也救不回音质;素材干净、时长充足时,可以加到 200 轮左右。最好每隔几轮保存一个小模型,用同一段测试音频对比着听。

用 RVC 做明星 AI 翻唱合法吗?+

不建议,也可能违法。《民法典》规定对自然人声音的保护参照肖像权;北京互联网法院在 2024 年的 AI 声音侵权案中认定,具有可识别性的 AI 声音同样受保护。只用自己的声音,或取得本人书面授权的声音。本文不构成法律意见。

FIND YOUR VOICE

读完了,就动手试试吧

挑一个声音,或者克隆你自己的声音,把文字变成自然的配音。

开始创作