MiniCPM icon indicating copy to clipboard operation
MiniCPM copied to clipboard

Published 20 hours ago • verified publisher icon OpenBMB

[Feature]: Docker Support

Open soulteary opened this issue 1 year ago • 3 comments

Feature request / 功能建议

开箱即用的 Docker 环境，可以让更多人玩起来，也更容易进行基于模型的开发，或者和其他模型联动。

  • [ ] HF
  • [ ] VLLM (use latest CUDA & Torch & etc... faster and faster)

我基于 Nvidia 最新版本的月度容器做了一个简单的封装（代码 merge 了 pr 里的 code，方便容器使用和避免输出 warning）：

https://github.com/soulteary/docker-mini-cpm

hope it helps.

soulteary avatar Feb 02 '24 09:02 soulteary

有cpu版不

chenhongen avatar Feb 02 '24 10:02 chenhongen

老哥你方便pull requests一下嘛

THUCSTHanxu13 avatar Feb 05 '24 11:02 THUCSTHanxu13

才看到，我整一个

soulteary avatar Apr 07 '24 01:04 soulteary