NingBoHao

Results 13 comments of NingBoHao

这个好像就是下载的,根据网速不同下载时间不一样 ---原始邮件--- 发件人: ***@***.***> 发送时间: 2023年5月10日(周三) 上午10:15 收件人: ***@***.***>; 抄送: ***@***.******@***.***>; 主题: Re: [Vision-CAIR/MiniGPT-4] loading VIT 特别慢的原因 (Issue #181) 我loading VIT要1个多小时,你那边也一样吗,算是有问题吗,能加速loading吗 — Reply to this email directly, view it on...

只下载一次,之后就直接加载了,第一次运行的时候没有这个开源的模型,默认下载到了c盘的缓冲区了。 ---原始邮件--- 发件人: ***@***.***> 发送时间: 2023年5月10日(周三) 上午10:27 收件人: ***@***.***>; 抄送: ***@***.******@***.***>; 主题: Re: [Vision-CAIR/MiniGPT-4] loading VIT 特别慢的原因 (Issue #181) 这个好像就是下载的,根据网速不同下载时间不一样 每一次都这样吗,还是就第一次需要下载? — Reply to this email directly, view it on...

![image](https://user-images.githubusercontent.com/51772602/234045412-ba1079cd-1dc3-4131-b377-33a009ce2223.png)

下载后运行的出现的问题 ![image](https://user-images.githubusercontent.com/51772602/234045724-fea6ab85-3422-46cc-9b3f-794ac629adfb.png)

记录下修改代码 ![image](https://user-images.githubusercontent.com/51772602/234298561-0c14ac16-5cc7-4f06-9651-fb0a350d3960.png)

紧接着出现问题 no NCCL 解决 ![image](https://user-images.githubusercontent.com/51772602/234305101-672d9980-66f6-4319-9a6e-4337f753b616.png) https://huaweicloud.csdn.net/63806cdbdacf622b8df87fbe.html?spm=1001.2101.3001.6650.1&utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault%7EBlogCommendFromBaidu%7Eactivity-1-120070425-blog-127900544.235%5Ev32%5Epc_relevant_default_base3&depth_1-utm_source=distribute.pc_relevant.none-task-blog-2%7Edefault%7EBlogCommendFromBaidu%7Eactivity-1-120070425-blog-127900544.235%5Ev32%5Epc_relevant_default_base3&utm_relevant_index=2

这个应该属于套的pytorch

python ./scripts/convert_llama_weights_to_hf.py --input_dir ${llama-path} --model_size 7B --output_dir ${llama-hf-path}/llama-7b-hf 我应该少执行这一步