indextts 使用vllm提速
作者:互联网观察 发布时间:Dec 10, 2025 分类:互联网观察
原版indextts 的速度不满意
使用index-vllm速度可以提升到非常满意的程度。
但是其源码存在问题。
修改如下文件:indextts\BigVGAN\alias_free_activation\cuda\load.py
修改 "arch=compute_70,code=sm_70",
将其中的 compute_70,sm_70修改成自己的显卡相关参数。
此时可以提升速度到RTF 0.08
相关文章
- 本地大模型推理交流群
- 《北京市属医院护士规范化培训指南(下册)》PDF
- v100 显卡 安装funasr最新版本
- 百万理财私人客户名单
- 使用v100+vllm推理qwenasr
- A Turning Tide: The Yangtze River’s Recovery After Decades of Degradation
- pve9无法运行部分lxc
- uv 使用国内源文
- 为什么我们要下载抖音无水印视频?
- Managing UV Projects in the Web Panel
文档信息
- 版权声明:自由转载-非商用-非衍生-保持署名 | Creative Commons BY-NC-ND 3.0
- 原文网址:https://www.tianmeng.org/Internet-Observation_528/528/
- 最后修改时间:2025年12月10日 15:01:15
当前暂无评论 »