请问部署这个模型需要什么机器配置？

[czcz1024]

主要是需要什么显卡，多大显存？ 如果对内存有要求也请说明一下

[chenxingphh]

主要是需要什么显卡，多大显存？ 如果对内存有要求也请说明一下

感谢关注。尽量可以使用H800, A800这类显存80G的显卡。加载14B的模型通常需要28G的显存，加上推理则需要28G以上的显存支持。