ktransformers icon indicating copy to clipboard operation
ktransformers copied to clipboard

大佬能不能提供一个完整的安装环境的版本,经过很多测试,版本都对应不上呢,求助

Open libingbingd opened this issue 1 month ago • 3 comments

Reminder

  • [x] I have read the above rules and searched the existing issues.

Description

求助大佬,提供一下安装环境的说明: python、torch、torchvision、ktransformers、flash-attn、cuda等版本的对应关系;

目前测试多次,版本对不上,老是报错,两个错误来回报; 错误1: flash_attn_2_cuda.cpython-312-x86_64-linux-gnu.so: undefined symbol: _ZN3c105ErrorC2ENS_14SourceLocationESs

错误2: KTransformersOps.cpython-312-x86_64-linux-gnu.so: undefined symbol: _ZN3c104cuda9SetDeviceEab

Pull Request

No response

libingbingd avatar Nov 24 '25 06:11 libingbingd

@libingbingd 我按着instruction指示安装没出错,我看你的python版本是3.12,instructions中建议是3.11,你可以试试。

tunglinwood avatar Nov 25 '25 03:11 tunglinwood

我是从源码编译 flash-attn 的

yuxuan-z19 avatar Nov 25 '25 12:11 yuxuan-z19

目前测试多次,版本对不上,老是报错,两个错误来回报; 错误1: flash_attn_2_cuda.cpython-312-x86_64-linux-gnu.so: undefined symbol: _ZN3c105ErrorC2ENS_14SourceLocationESs

错误2: KTransformersOps.cpython-312-x86_64-linux-gnu.so: undefined symbol: _ZN3c104cuda9SetDeviceEab

Pull Request

No response

试下更新全部系统软件装包到最新, 再试。(以上类似遇过, 更新后便好)

最好是用建立虚拟环境(例如venv, 我是用uv), 有些python模组要特定版本(但错误不是这个)

看过网上有教用conda用特定版本python, 但我不是用conda

shrould8888 avatar Dec 02 '25 06:12 shrould8888