Skip to content

About

开发中的桌面级 AI 翻唱工作台,已支持 Runtime 管理,逐步接入 SVC/RVC 推理与混音。A desktop AI vocal cover workstation in development, with runtime management and upcoming SVC/RVC inference and mixing.

Resources

Stars

2 stars

Watchers

0 watching

Forks

Repository files navigation

VCA-Studio

VCA-Studio 是桌面级 AI 翻唱编排工作台:单模型翻唱、多模型混唱、片段时间轴、局部重渲染与原唱解析 MVP 已接入后端;详细阶段说明见 VCA_IMPLEMENTATION_ROADMAP.md,从当前 MVP 到完整版与长期演进的规划见 PRODUCT_PLAN.md。

当前进度(2026-07-26)

⚠️ 状态分两级:代码完成 ≠ 真机验证。推理全链路(RVC / SVC / UVR)尚未在配置好 runtime 的真机上验收,验收前不视为可用。

后端(代码完成):P0 单模型闭环、So-VITS-SVC 双引擎(svc_worker.py 直驱 infer_tool.Svc)、P1 多模型整轨推理 + 绝对时间轴拼接、合唱/limiter、rerender_work(缺缓存时按片段指派补推理)、UVR 分离(可降级)、模型链接/ZIP 导入、音高解析与歌词对齐 API。

2026-07-26 审计修复:RVC CLI 改为 rvc-python 真实接口(cli -i/-o/-mp + -de 设备传递);SVC 弃用猜测式 CLI 改走 worker,speaker 改为名称字符串;拼接改为绝对时间轴(前导/gap/尾部静音、片段格式统一);崩溃恢复(启动时 running→failed);新增引擎命令与拼接测试。

前端:Runtime / 模型 / 新建翻唱(单模型)/ 作品库 / 时间轴编辑(/editor/:id)/ 原唱解析面板 / 从链接导入模型。

下一步(阻塞级):真机配置 Runtime 后全链路验收:RVC、SVC、UVR、ffmpeg 路径正确时,start_work 走分离 → 推理 → 混音并写出 output/final.wav。

已实现能力摘要

  • ✅ React + Vite + TypeScript + Ant Design + pywebview + bridge + mock fallback
  • ✅ JSON 存储、/runtime 深度检测(ffmpeg / SVC / RVC / UVR)
  • ✅ /models 本地导入 + 从 http(s)/file 链接或 ZIP 导入
  • ✅ /create 三种输入模式、RVC 参数、可选输入 WAV 规范化
  • ✅ /works 列表、详情、步骤、进度、日志、重试、导出、打开目录
  • ✅ 后台串行任务队列执行 start_work
  • ✅ /editor/:id 片段表编辑、保存时间轴、局部/整轨重渲染、原唱解析
  • ✅ 多模型 + segments:API/create_work 已支持;创建页 UI 仍以单模型为主

已知缺口(产品层)

  • 多模型 per-model 参数 UI 仅覆盖变调/Index,SVC 专项参数仍待暴露
  • 长任务无取消能力;原唱解析为同步纯 Python 实现(长音频会卡 UI,视为实验性)
  • 试听走 base64 过桥(大文件内存开销高);链接导入模型为同步下载
  • 完整多轨波形编辑器、在线曲库、ModelScope 全站、自动安装器、Guide Singer 仍后置

已有页面

路由 状态 说明
/ 已实现 应用状态、数据目录、最近作品
/runtime 已实现 路径保存、深度检测、单组件重测
/models 已实现 本地导入、检查、链接导入
/create 已实现 单/多模型、LRC 时间轴、创建作品
/works 已实现 作品库、运行中轮询、详情内试听
/editor 已实现 作品选择列表
/editor/:id 已实现 时间轴编辑、重渲染、原唱解析

macOS 快速验收(Apple Silicon / Intel)

  1. /runtime 本机环境:Apple Silicon 推荐 mps,Intel Mac 推荐 cpu
  2. 可选安装(点「安装」才执行):
    • 安装 ffmpeg(Homebrew)(需已装 brew)
    • 仅检测 ffmpeg
    • RVC 虚拟环境(Apple Silicon / MPS) 或 macOS CPU
  3. 保存并检测 → 导入模型 → /create 设备 mps 或 cpu,优先 人声+伴奏

数据目录:~/Library/Application Support/VCA-Studio/.vca_studio,日志 runtime_install.log。

Windows 快速验收(例:i5-12400 + RTX 2060 SUPER)

  1. 启动桌面应用 → /runtime 本机摘要应见 GPU 与推荐设备 cuda
  2. 就绪清单:检测/安装 ffmpeg(winget 安装或「检测并绑定」)→ 状态 ready
  3. 就绪清单:安装 RVC(CUDA) → 状态 ready(自动写入 rvc_python)
  4. /models 导入 RVC .pth → /create 设备默认 cuda → 勾选立即开始 → /works 试听

UVR / So-VITS-SVC 仍手填路径(本页不提供一键安装)。日志:数据目录下 runtime_install.log。

翻唱核心流程验收(桌面)

  1. /runtime 配置 ffmpeg、RVC(rvc_python)或 So-VITS-SVC(svc_python + sovits_repo 指向含 inference/infer_tool.py 的仓库);song 模式还需 UVR
  2. /models 导入 RVC(.pth + 可选 .index)或 SVC(G_*.pth + config.json,可选浅扩散)
  3. /create:选模型后表单会切换 RVC / So-VITS-SVC 参数 → 输入音频 → 默认 创建后立即开始翻唱
  4. 跳转 /works 等待 done,详情中 试听成品 或导出 final.wav

vocals 模式仅输出 AI 干声(final.wav = 干声);stems / song(分离出伴奏)会走 推理 → 混音 并写入 output/final.wav。

本地启动

1. 准备环境

  • Python 3.10+
  • Node.js 20.19+
  • Git

2. 安装并构建前端

cd web
npm install
npm run build

3. 启动桌面应用(生产模式)

cd ..\app
pip install pywebview
python main.py

4. 开发模式启动

终端 1:

cd web
npm install
npm run dev

终端 2:

cd app
pip install pywebview
python main.py --dev

开发模式桌面壳加载 http://localhost:5173?desktop=1;浏览器直连 http://localhost:5173 使用 mock API。

Runtime Manager

/runtime 为手动路径 + 检测,不自动安装完整 AI runtime。

Key 说明
ffmpeg_path / ffprobe_path 留空则尝试 PATH
svc_python / sovits_repo So-VITS-SVC
rvc_python RVC
uvr_python / uvr_model_dir UVR 分离

作品流水线(start_work)

模式 行为
song UVR 分离(失败可降级为人声=原曲)→ 推理 → 有伴奏则混音
vocals / stems 使用已准备人声 → 推理;stems 可与伴奏混音
含 segments 各模型整轨推理 → 裁切拼接(含 choir/mute/original)→ 混音

作品目录见路线图:.vca_studio/works/<id>/(input/、stems/、renders/、inference/、output/、run.log)。

技术结构

VCA-Studio/
├─ app/
│  ├─ api/bridge.py
│  ├─ application/          # work, model, runtime, lrc, stitch, stem_preparer, …
│  ├─ infrastructure/       # rvc/svc engine, uvr, pitch, model_downloader, …
│  └─ main.py
├─ web/src/pages/           # Home, Runtime, Models, Create, Works, Editor
├─ VCA_IMPLEMENTATION_ROADMAP.md
├─ PROJECT_COPY_REPORT.md   # 参考项目对齐清单(§10 已与 2026-07-09 代码同步)
└─ README.md

本地数据目录

环境变量 VCA_DATA_DIR 可覆盖默认路径(Windows %APPDATA%/VCA-Studio/.vca_studio 等)。

后续优先(对齐路线图)

  1. Create:LRC + 多模型 UI
  2. Works:运行中轮询 + 试听
  3. 真机全链路验收(RVC/SVC/UVR)
  4. Guide Singer、波形多轨编辑器、在线曲库(后置)

参考项目

功能规划参考 SDIJF1521/xb-svcb。本仓库 MIT,使用第三方模型与 runtime 请遵守各自许可。

About

开发中的桌面级 AI 翻唱工作台,已支持 Runtime 管理,逐步接入 SVC/RVC 推理与混音。A desktop AI vocal cover workstation in development, with runtime management and upcoming SVC/RVC inference and mixing.

Resources

Stars

2 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages