大佬能不能提供一个完整的安装环境的版本,经过很多测试,版本都对应不上呢,求助
Reminder
- [x] I have read the above rules and searched the existing issues.
Description
求助大佬,提供一下安装环境的说明: python、torch、torchvision、ktransformers、flash-attn、cuda等版本的对应关系;
目前测试多次,版本对不上,老是报错,两个错误来回报; 错误1: flash_attn_2_cuda.cpython-312-x86_64-linux-gnu.so: undefined symbol: _ZN3c105ErrorC2ENS_14SourceLocationESs
错误2: KTransformersOps.cpython-312-x86_64-linux-gnu.so: undefined symbol: _ZN3c104cuda9SetDeviceEab
Pull Request
No response
@libingbingd 我按着instruction指示安装没出错,我看你的python版本是3.12,instructions中建议是3.11,你可以试试。
我是从源码编译 flash-attn 的
目前测试多次,版本对不上,老是报错,两个错误来回报; 错误1: flash_attn_2_cuda.cpython-312-x86_64-linux-gnu.so: undefined symbol: _ZN3c105ErrorC2ENS_14SourceLocationESs
错误2: KTransformersOps.cpython-312-x86_64-linux-gnu.so: undefined symbol: _ZN3c104cuda9SetDeviceEab
Pull Request
No response
试下更新全部系统软件装包到最新, 再试。(以上类似遇过, 更新后便好)
最好是用建立虚拟环境(例如venv, 我是用uv), 有些python模组要特定版本(但错误不是这个)
看过网上有教用conda用特定版本python, 但我不是用conda