docker-llama2-chat
docker-llama2-chat copied to clipboard
接下来一些计划折腾的事(可以评论提你的想法)
- [ ] 接入体验更好的前端客户端,让本地体验更好。
- [ ] 接入可以私有化部署的 “ChatGPT”,在原生 Web Client 中玩 :-D
- [ ] 接入 RSS Can 降低信息流数据处理成本。
- [ ] “一键包”,部署还是太烦了,有好多同学反馈下载慢,除了之前的场景外:
- [x] MacOS ,M1 / M2
- [x] Windows + GPU https://zhuanlan.zhihu.com/p/646758615
- [ ] Linux CPU
- [ ] 接入 Code Interpreter
模型私有化 接入Code Interpreter感觉很有趣!
可以提供流式API文件部署
私有化+code interpreter,还有flowise兼容,现在在考虑用llm搭建数据分析这块,看看能不能替代基础数据分析师
可否出一个Windows部署的小白教程,谢谢大佬
https://zhuanlan.zhihu.com/p/646758615 @syusama 试试看 :-D