bigbigtooth

Results 10 comments of bigbigtooth

这个问题我的服务也一直存在,有几个job一直都没有消失,保存在Next Jobs队列里。

用exe如何配置socks环境变量?

@czczup 同求!希望能支持Mac,让我的M3 Max 64G不要荒废

> 去下载自己量化就可以了 哦?这个是可以兼容的吗?我马上试试

> > > 去下载自己量化就可以了 > > > > > > 哦?这个是可以兼容的吗?我马上试试 > > 直接用llama.cpp量化就OK了 请教:用llama.cpp量化时报错: Traceback (most recent call last): File "/Users/xxx/AIproject/llama.cpp/convert.py", line 1228, in main() File "/Users/xxx/AIproject/llama.cpp/convert.py", line 1161,...

哈哈哈,果然可行,感谢。 72b的推理速度真的慢

> 前面不是写了 `FileNotFoundError(pretrained_s2G)` 么,找不到模型权重,所以需要另外下载一下预训练权重。 请教一下,怎么解决呢?去哪里下?目前我的模型都是最新下载的

我也碰到了同一个问题,有解决办法吗?