大灰狼

Results 19 comments of 大灰狼
trafficstars

> ![image](https://user-images.githubusercontent.com/22910195/228126726-0903e275-d958-4020-9b21-3a7dfeeb42a4.png) ![image](https://user-images.githubusercontent.com/22910195/228126763-58120513-03d8-4f76-8f15-5fafaf52487a.png) 这个问题我想起来了, 可能你有多次执行安装程序, 会造成这种问题

> pip install jittor==1.3.7.12 jtorch==0.1.3 -i https://pypi.jittor.org/simple 将版本可解。虽然astype解决了,但是我又遇到了一个新问题 . [看样是无解的](https://github.com/Jittor/JittorLLMs/issues/106) 照你这个降版本后, 是可以启动起来了, 作者给的例子有很大问题

web_demo我也没法用, 能用的就是api那个, 但是发了消息等模型回答要很久 ![image](https://github.com/Jittor/JittorLLMs/assets/100897011/c1ad5f7f-7019-4829-980e-8909ec0ac6dc)

![image](https://github.com/Jittor/JittorLLMs/assets/100897011/1236114d-baed-4bd6-aed7-0f08b5a60866) 我还有个问题就是, 如果装了这个, 启动都会报错

> 不同机器根据环境速度也会有差异的,我们实测4G的显卡大概一秒出1~2个字左右,后续还将不断优化该模型库 ![image](https://github.com/Jittor/JittorLLMs/assets/100897011/0895149b-06b0-470e-abc6-c24868043864) **3分36秒** ![image](https://github.com/Jittor/JittorLLMs/assets/100897011/e782f69a-fcea-4e3b-8203-fbc9ca89fca7)

![image](https://github.com/Jittor/JittorLLMs/assets/100897011/f5aea262-7086-4f6c-8403-4f80d8fb18cd) 给你参考下, 我还没找到速度快一点的方式

> 这个就是显卡显存不够了,请您按照readme,限制显存大小: https://github.com/Jittor/JittorLLMs#%E9%85%8D%E7%BD%AE%E8%A6%81%E6%B1%82%E4%BD%8E 这个没用, 限制了依旧会报一样的错

> 控制中心的IP变了的话,私网的客户端还能上线不? 原版keynetworks/ztncui是不能的,不知道怎么搞,苦恼得很。 IP变更的话, 重新安装, 重新分发plane文件

> 2年多了,docker版有吗 两年多了还盯着呢..... 一直没啥时间弄 等弄docker的时候会更新成官方最新的版本, 到时候还得测一下才能发出来