honglvagan

兄,你用的是 7b plus 吗?能不能..?

me too,i met the same problem ubuntu@VM-0-5-ubuntu:~/Desktop/bookDesk202303061/text-generation-webui$ python3 server.py --cpu --model llama-7b-hf --lora chinese-alpaca-lora-7b Gradio HTTP request redirected to localhost :) bin /home/ubuntu/.local/lib/python3.8/site-packages/bitsandbytes/libbitsandbytes_cpu.so /home/ubuntu/.local/lib/python3.8/site-packages/bitsandbytes/cextension.py:33: UserWarning: The installed version of bitsandbytes...

谢谢哥,我部署了好多次都没成,今天突然用 llama.cpp 弄好了,我再看看是哪里合并异常

>  13B模型，看着不太聪明的样子 单看这一段,他说的一点也不错啊

> @mcu13321 你测试的输出似乎不是很对劲，有可能模型不完整。😂 > > 哥,会不会和运行 ./main 的参数有关?我一开始直接用示例的参数,他还是只说英文,我把参数调大他才开始说中文的,我现在用的 ./main -m models/llama-13b-hf/ggml-model-q4_0.bin --color -f prompts/alpaca.txt -ins -c 2048 --temp 1 -n 2048 -t 8 --repeat_penalty 1.3 运行

确实..也给我整一个/(ㄒoㄒ)/~~

> Macmini M1 16G 可以转制，本来想上传 huggingface.co 总是上传不上去，第二天huggingface被墙了 25g内存,但没有显卡,Ubuntu 20.04 自带 python 3.8 版本,我又下了个 python3,10,然后 python3.10 -m pip install 下载了一堆包,结果试了几次不是这里错就是那里错,好像python版本和pip install 的包们版本之间没对上,请问需要哪些包,能具体发下吗?我再试试

> [Chinese-Alpaca-Plus-7B](https://pan.baidu.com/s/1UIkiIdyipGJQvae1wx3J_Q?pwd=jjh0) 哥,我把这个下了,请问这个接下来该怎么处理?才能在 llama.cpp 项目用?我放 models 下面没跑起来 ./main -m models/llama-chinese-7B/pytorch_model-00001-of-00002.bin --color -f prompts/alpaca.txt -ins -c 2048 --temp 0.2 -n 256 --repeat_penalty 1.3 main: build = 526 (e6a46b0) main: seed =...

请问下,公式功能应该怎么引入?我现在是这么写的,公式和 draw.io 没有反应 请问下怎么用公式功能和draw.io?该调整哪里?这是我的html,目前无法用公式和draw.io,请问我该怎么写? Document new Cherry({ id: 'markdown-container', value: '# 到此一游!', toolbars: { // 定义顶部工具栏 toolbar: [ 'undo', 'redo', '|', // 把字体样式类按钮都放在加粗按钮下面 { bold: ['bold', 'italic', 'underline', 'strikethrough', 'sub',...

> > 请问下,公式功能应该怎么引入?我现在是这么写的,公式和 draw.io 没有反应 请问下怎么用公式功能和draw.io?该调整哪里?这是我的html,目前无法用公式和draw.io,请问我该怎么写? > > Document > > new Cherry({ id: 'markdown-container', value: '# 到此一游!', toolbars: { // 定义顶部工具栏 toolbar: [ 'undo', 'redo', '|', // 把字体样式类按钮都放在加粗按钮下面 {...