indextts 使用vllm提速
作者:互联网观察 发布时间:December 10, 2025 分类:互联网观察
原版indextts 的速度不满意
使用index-vllm速度可以提升到非常满意的程度。
但是其源码存在问题。
修改如下文件:indextts\BigVGAN\alias_free_activation\cuda\load.py
修改 "arch=compute_70,code=sm_70",
将其中的 compute_70,sm_70修改成自己的显卡相关参数。
此时可以提升速度到RTF 0.08