Alex Zuo
Alex Zuo
> 二代6b模型商用不是免费的,参考https://open.bigmodel.cn/pricing 这个只是api调用的定价,不代表自己本地部署也要收费
> @Alex-Zuo-One 收费的!本地私有化部署要钱,官网上写的呢 那是别人帮你部署要钱,你自己部署的话发邮件获得批准就好
还是希望有int8的库,不然要下载的文件太多了
api不一致的话,可以考虑用fastchat这个项目,https://github.com/lm-sys/FastChat/tree/main
建议用langchain试试
听群友推荐的,希望早日支持linux
I've seen this bug in 0.12, but I don't know why it's not working again.
TypeError: 'NoneType' object is not subscriptable 该bug还是可复现,聊天页面正常推理也报错了