Chinese-LLaMA-Alpaca icon indicating copy to clipboard operation
Chinese-LLaMA-Alpaca copied to clipboard

有人量化了13B模型可以提供下载链接的吗

Open lianggaoquan opened this issue 1 year ago • 20 comments

感谢您使用Issue提问模板,请按照以下步骤提供相关信息。我们将优先处理信息相对完整的Issue,感谢您的配合。

提示:将[ ]中填入x,表示打对钩。

问前必查项目

  • [ ] 由于相关依赖频繁更新,请确保按照README.md中的相关步骤执行
  • [x] 我已在Issue中对问题进行了搜索,没有找到相似问题和解决方案
  • [ ] 我已阅读README中的FAQ章节,没有找到相似问题和解决方案
  • [ ] 第三方插件问题:例如llama.cpptext-generation-webui等,同时建议到对应的项目中查找解决方案

选择问题类型

基础模型:

  • [ ] LLaMA
  • [x] Alpaca

问题类型:

  • [x] 下载问题
  • [ ] 模型转换和合并问题
  • [ ] 模型推理问题(🤗 transformers)
  • [ ] 模型量化和部署问题(llama.cpp、text-generation-webui)
  • [ ] 效果问题
  • [ ] 其他问题

详细描述问题

因为免费版colab的RAM和磁盘空间对于13B模型的处理远远不够,多次尝试也无法成功,huggingface也没有13B的下载,有人愿意分享下量化好的13B模型吗,感谢~

运行截图或log

(如有必要)请提供文本log或者运行截图,以便我们更好地了解问题详情。

lianggaoquan avatar Apr 16 '23 14:04 lianggaoquan

尝试过选择TPU也随机不出35G内存的机器吗?

ymcui avatar Apr 17 '23 01:04 ymcui

可以随机出35G的,但RAM够了,磁盘空间反而不足(总共仅107G,可用一直在87G左右),无法继续量化。不然就是两个都不够

lianggaoquan avatar Apr 17 '23 02:04 lianggaoquan

我有,怎么联系...?

您好,请问可以发送到[email protected]吗?感谢~

lianggaoquan avatar Apr 17 '23 04:04 lianggaoquan

能麻烦也给我一个吗,谢谢,[email protected]

7801943 avatar Apr 17 '23 04:04 7801943

我有,怎么联系...?

麻烦能发我一份吗, [email protected] 非常感谢

guyuexue avatar Apr 17 '23 05:04 guyuexue

我有,怎么联系...?

能麻烦也发我一份吗,非常感谢。[email protected]

Leawnn avatar Apr 17 '23 06:04 Leawnn

我有,怎么联系...?

能麻烦也共享一份吗,非常感谢。 [email protected]

nw3000 avatar Apr 17 '23 06:04 nw3000

我有,怎么联系...?

可以发我一份吗,非常感谢!!!![email protected]

fiona-aa avatar Apr 17 '23 08:04 fiona-aa

能麻烦也共享一份吗,非常感谢。 [email protected]

chis2j4 avatar Apr 17 '23 09:04 chis2j4

@cash-wei-plantern 能麻烦也共享一份吗,非常感谢。 [email protected]

ehion avatar Apr 17 '23 09:04 ehion

我有,怎么联系...? 麻烦能共享一份嘛,非常感谢![email protected]

yunyuyilian avatar Apr 17 '23 13:04 yunyuyilian

我有,怎么联系...?

麻烦能发我一份吗,非常感谢, [email protected]

Hchunyuan avatar Apr 17 '23 17:04 Hchunyuan

我有,怎么联系...?

辛苦能共享一份吗?[email protected]

ycy3675001 avatar Apr 18 '23 00:04 ycy3675001

能麻烦也共享一份吗,非常感谢。 [email protected]

cndeng avatar Apr 18 '23 02:04 cndeng

我有,怎么联系...?

能麻烦提供一份吗,感谢! [email protected]

qping2018 avatar Apr 18 '23 02:04 qping2018

我上传了一份 https://huggingface.co/minlik/chinese-alpaca-13b-quantized

minlik avatar Apr 18 '23 06:04 minlik

我上传了一份 https://huggingface.co/minlik/chinese-alpaca-13b-quantized

好人一生平安🙏

Linzeyin avatar Apr 20 '23 17:04 Linzeyin

好人一生有福!

biotech7 avatar Apr 22 '23 11:04 biotech7

@minlik 请问这个 13B 是普通版还是 plus 版?

prettyboyweiwei avatar May 12 '23 06:05 prettyboyweiwei

@minlik 请问这个 13B 是普通版还是 plus 版?

普通版

minlik avatar May 12 '23 06:05 minlik

This issue has been automatically marked as stale because it has not had recent activity. It will be closed if no further activity occurs. Thank you for your consideration.

github-actions[bot] avatar May 19 '23 22:05 github-actions[bot]

Closing the issue, since no updates observed. Feel free to re-open if you need any further assistance.

github-actions[bot] avatar May 23 '23 22:05 github-actions[bot]