zc129

Results 3 comments of zc129

我重新编译了ktransformersops,然后替换了原来的,解决了问题,可以试试 1. 下载main的源码包,解压进入主目录。 2. cd ktransformers/ktransformers/ktransformers_ext/cuda/ 3. python setup.py develop 4. ln -sf ktransformers/ktransformers/ktransformers_ext/cuda/KTransformersOps.cpython-311-x86_64-linux-gnu.so $YOURCONDAPATH/lib/python3.11/site-packages/KTransformersOps.cpython-311-x86_64-linux-gnu.so

> > 我重新编译了ktransformersops,然后替换了原来的,解决了问题,可以试试 > > > > 1. 下载main的源码包,解压进入主目录。 > > 2. cd ktransformers/ktransformers/ktransformers_ext/cuda/ > > 3. python setup.py develop > > 4. ln -sf ktransformers/ktransformers/ktransformers_ext/cuda/KTransformersOps.cpython-311-x86_64-linux-gnu.so $YOURCONDAPATH/lib/python3.11/site-packages/KTransformersOps.cpython-311-x86_64-linux-gnu.so > > 谢谢你,可以运行了加载模型了。...

> [@txg1550759](https://github.com/txg1550759) > > > 谢谢,我看你给的链接是0.21,0.21之前已经跑起来了,但是我需要0.3的构建文档,包知0.3版本的dockerfile,不知道你能提供帮助吗? > > 不,我提供的 [`.whl` 文件虽然比 0.2.1](https://github.com/ubergarm/ktransformers/releases/tag/25c5bdd) 新,但由于 Python 配置问题,本项目版本号并不规范。该文件基于 `ktransformers@25c5bdd` 构建(比 0.2.1 的 `ktransformers@65d73ea` 更新)。你可通过 `git rev-parse --short HEAD` 查看当前 Git 提交哈希值——版本号本身并无实际意义。 > >...