有没有适配910b的实时识别+热词功能的模型

[579486]

有没有适配910b的实时识别+热词功能的模型

[LauraGPT]

更正之前的回复：FunASR 当前主分支已经有 torch_npu 设备检测和 NPU 路径；此前“没有 NPU 后端”的说法已经过时。但截至 main 1d8080af，还没有一套经过官方端到端验证的“Ascend 910B + 实时识别 + 解码热词”组合，需要把几条不同路径分开看。

路径	NPU 证据	实时	热词	当前结论
paraformer-zh（离线）	#2812 已合入通用 NPU 检测，并给出 NPU Paraformer + hotword 示例	否	是，模型级 SeACo 热词	可以作为当前 NPU 热词起点
paraformer-zh-streaming（Python 分块）	通用 device="npu:*" 会进入 NPU，但没有公开的 910B 实时复测	是	否；当前 inference() 不读取 hotword / hotwords	不满足“实时 + 热词”
C++/ONNX 2-pass WebSocket	官方 runtime 主要是 CPU/CUDA ONNX 路径，不是 torch_npu/910B 路径	是	是；WFST 热词作用于句末 2pass-offline 纠错	实时热词已支持，但不是 910B 后端
Fun-ASR-Nano	#3113 修复了 NPU autocast；#3034 只在 310P3 上完成兼容性 smoke	vLLM 实时服务在 CUDA 路径已有	Prompt 热词	310P3 smoke 很慢，vLLM-Ascend 仍有算子错误，不能当作 910B 生产方案

如果当前需求可以先接受离线识别 + 热词，使用 Paraformer：

from funasr import AutoModel

model = AutoModel(
    model="paraformer-zh",
    device="npu:0",
    disable_update=True,
)

result = model.generate(
    input="audio.wav",
    hotword="达摩院 魔搭",  # singular: hotword
)
print(result[0]["text"])

NPU 检测从 FunASR 1.3.2 起已进入发布版；请确保 torch、torch_npu、CANN 和驱动按照对应 910B 兼容矩阵安装，并先确认：

python -c "import torch, torch_npu; print(torch.__version__, torch_npu.__version__, torch_npu.npu.is_available())"

如果必须同时满足实时 + 热词，当前有两个诚实的选择：

1. 不限定 910B：使用官方 C++/ONNX 2-pass WebSocket runtime。实时 partial 由 online 模型产生，句末由 offline Paraformer + WFST 热词纠错。对应参数和热词格式见在线高级指南。
2. 必须使用 910B：把 paraformer-zh-streaming 作为实时 partial、在端点处再调用 paraformer-zh + hotword 做二遍纠错，并在真实 910B 上自行验证。这是待验证的组合方案，不是当前官方承诺；不能只给 streaming 模型传 hotword，因为该参数会被忽略。

当前源码依据：

• paraformer-zh-streaming.inference 没有读取热词参数；
• 离线 SeacoParaformer.inference 明确读取 singular hotword；
• Fun-ASR-Nano 的 Ascend 支持边界记录在部署矩阵。

所以问题的直接答案是：现在有 NPU 离线热词模型，也有非 NPU 的实时热词 runtime，但暂时没有经过验证的一体化 910B 实时热词模型。