indextts 使用vllm提速
作者:互联网观察 发布时间:December 10, 2025 分类:互联网观察
原版indextts 的速度不满意
使用index-vllm速度可以提升到非常满意的程度。
但是其源码存在问题。
修改如下文件:indextts\BigVGAN\alias_free_activation\cuda\load.py
修改 "arch=compute_70,code=sm_70",
将其中的 compute_70,sm_70修改成自己的显卡相关参数。
此时可以提升速度到RTF 0.08
相关文章
- 无相关文章
文档信息
- 版权声明:自由转载-非商用-非衍生-保持署名 | Creative Commons BY-NC-ND 3.0
- 原文网址:http://tianmeng.org/archives/528/
- 最后修改时间:2025年12月10日 15:12:00
当前暂无评论 »