12915494174

网页推理直接运行会报错

1

按照README.md文件直接打开界面，提问报了错误如下图：  日志：  `root@autodl-container-30634997bd-fb05be27:~/llama3-Chinese-chat# streamlit run deploy/web_streamlit_for_instruct.py /root/autodl-tmp/llama-3-8b-Instruct-chinese_v2 --theme.base="dark" Collecting usage statistics. To deactivate, set browser.gatherUsageStats to false. You can now view your Streamlit app in your browser. Network...

LLaMA3-8B-Instruct+lora使用A800（80GB显存）微调长度8192

2

LLaMA3-8B-Instruct+lora微调，单张A800（80GB显存）能否8192长度的token微调，我的任务场景较为特殊，需要使用较长的文本来微调。我使用了该代码库提供的代码，在微调过程中遇到了显存溢出的问题？

Error: Buffer still has 851309 bytes

2

Hello, I encountered this error when trying to convert wasm into normal assembly using this tool. Is there a solution to this problem now? Error: Buffer still has 851309 bytes...

使用了GPU运行，但是CPU使用率依旧很高？根据性能报告，GPU确实生效。请问这个现象的原因是为什么？ 我的代码如下： ```from funasr import AutoModel import time import json # paraformer-zh is a multi-functional asr model # use vad, punc, spk or not as you need model = AutoModel(...

是否支持时间戳识别出录音中每句话的情感？

1

是否支持时间戳识别出录音中每句话的情感？我是用funasr+emotion2vec_plus_large模型进行了测试，发现只能输出整段录音的情感，添加vad后依然是只有整段的。

是否支持词库动态更新？

1

我想将该项目作为一个依赖引入到springboot项目中，而现在我并没有找到该项目自定义词库动态更新的API。我想问下该版本是否有该设计？或者后续是否有此项设计的安排？