BAAI-OpenPlatform
BAAI-OpenPlatform
得先把模型切片然后加载，我们近期会把这个功能加上去
We will release a demo dataset soon
lora得用单独的方式加载，先不用lora吧，我们修修，实在是不好意思
我们的工程师正在复现和修复这个问题
1. 生成密钥 ssh-keygen -t rsa 2. 进入~/.ssh里，应该就会有id_rsa和id_rsa.pub两个文件 3. 在~/.ssh里，如果没有authorized_keys文件就新建一个, 然后把公钥放进去 cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys 4. 重启服务器 service sshd restart
先试试这个，如果还不行，就可能是网络的原因
此问题已关闭，如果还有疑问，可以重新打开此问题
https://github.com/FlagAI-Open/FlagAI/blob/master/examples/Aquila/Aquila-chat/generate_chat.py generate文件下面有多轮对话的实例
Aquila语言大模型在技术上继承了GPT-3、LLaMA等的架构设计优点，替换了一批更高效的底层算子实现、重新设计实现了中英双语的tokenizer，升级了BMTrain并行训练方法，在Aquila的训练过程中实现了比Magtron+DeepSpeed zero-2将近８倍的训练效率。Aquila语言大模型是在中英文高质量语料基础上从０开始训练的，通过数据质量的控制、多种训练的优化方法，实现在更小的数据集、更短的训练时间，获得比其它开源模型更优的性能。也是首个支持中英双语知识、支持商用许可协议、符合国内数据合规需要的大规模开源语言模型。
现在还有这种问题吗，我这儿是可以运行的，会不会是显存不够？