Chinese-LLaMA-Alpaca
Chinese-LLaMA-Alpaca copied to clipboard
有人量化了13B模型可以提供下载链接的吗
感谢您使用Issue提问模板,请按照以下步骤提供相关信息。我们将优先处理信息相对完整的Issue,感谢您的配合。
提示:将[ ]中填入x,表示打对钩。
问前必查项目
- [ ] 由于相关依赖频繁更新,请确保按照README.md中的相关步骤执行
- [x] 我已在Issue中对问题进行了搜索,没有找到相似问题和解决方案
- [ ] 我已阅读README中的FAQ章节,没有找到相似问题和解决方案
- [ ] 第三方插件问题:例如llama.cpp、text-generation-webui等,同时建议到对应的项目中查找解决方案
选择问题类型
基础模型:
- [ ] LLaMA
- [x] Alpaca
问题类型:
- [x] 下载问题
- [ ] 模型转换和合并问题
- [ ] 模型推理问题(🤗 transformers)
- [ ] 模型量化和部署问题(llama.cpp、text-generation-webui)
- [ ] 效果问题
- [ ] 其他问题
详细描述问题
因为免费版colab的RAM和磁盘空间对于13B模型的处理远远不够,多次尝试也无法成功,huggingface也没有13B的下载,有人愿意分享下量化好的13B模型吗,感谢~
运行截图或log
(如有必要)请提供文本log或者运行截图,以便我们更好地了解问题详情。
尝试过选择TPU也随机不出35G内存的机器吗?
可以随机出35G的,但RAM够了,磁盘空间反而不足(总共仅107G,可用一直在87G左右),无法继续量化。不然就是两个都不够
能麻烦也共享一份吗,非常感谢。 [email protected]
@cash-wei-plantern 能麻烦也共享一份吗,非常感谢。 [email protected]
我有,怎么联系...? 麻烦能共享一份嘛,非常感谢![email protected]
能麻烦也共享一份吗,非常感谢。 [email protected]
我上传了一份 https://huggingface.co/minlik/chinese-alpaca-13b-quantized
我上传了一份 https://huggingface.co/minlik/chinese-alpaca-13b-quantized
好人一生平安🙏
好人一生有福!
@minlik 请问这个 13B 是普通版还是 plus 版?
@minlik 请问这个 13B 是普通版还是 plus 版?
普通版
This issue has been automatically marked as stale because it has not had recent activity. It will be closed if no further activity occurs. Thank you for your consideration.
Closing the issue, since no updates observed. Feel free to re-open if you need any further assistance.