Facico

tcp端口（80）在https://tcp.ping.pe 测没有问题，服务挂的443端口本地也能正常telnet，但是断连的时候不能成功，是会出现临时把IP ban掉吗？

@crazypeace 上面log因为太长了，没截全，error部分完整是这样的 ```bash Aug 12 03:14:51 vultr caddy[4375]: {"level":"error","ts":1660245291.5874836,"logger":"tls.issuance.acme.acme_client","msg":"challenge failed","identifier":"hxnb.facico.top","challenge_type":"http-01","problem":{"type":"urn:ietf:params:acme:error:connection","title":"","detail":"45.76.77.190: Fetching http://hxnb.facico.top/.well-known/acme-challenge/72A3Mhtk_RrS5IHwRTqncJEqZVfQi8HBYduDMsVGZAA: Timeout during connect (likely firewall problem)","instance":"","subproblems":[]}} Aug 12 03:14:51 vultr caddy[4375]: {"level":"error","ts":1660245291.5884125,"logger":"tls.issuance.acme.acme_client","msg":"validating authorization","identifier":"hxnb.facico.top","problem":{"type":"urn:ietf:params:acme:error:connection","title":"","detail":"45.76.77.190: Fetching http://hxnb.facico.top/.well-known/acme-challenge/72A3Mhtk_RrS5IHwRTqncJEqZVfQi8HBYduDMsVGZAA: Timeout during connect...

噢，感谢，确实是这个问题，我看vultr防火墙配置规则没有东西以为是都开放了（之前配nginx的时候都没遇到这种问题）

应该是v100在8bit，同时也可以检查一下相关依赖的 版本的问题。 类似问题见[该issue](https://github.com/Facico/Chinese-Vicuna/issues/39) 可以试着不开8bit，只使用fp16

我上面给你贴的那个issue链接里面有写

你这个是1000多个step吧。你这个训练的log看起来没啥问题。 然后你这个是完整的报错信息吗，我感觉你这个错误一般有以下可能： 1、你主动把这个程序中断了（不小心按了ctrl c，后者后台把它kill了之类的） 2、CPU炸了（比如被其他程序占用之类的），你可以检查一下GPU 和CPU的占用情况

We no longer provide maintenance for alpaca-serve, you can go to their repository and ask questions about it. Or you can just use our t script.

lora只是一个adapter，基底模型还是llama，vicuna的基地模型也是llama

还是peft版本的问题，见这个[issue](https://github.com/Facico/Chinese-Vicuna/issues/51) （其实类似的问题把报错信息在项目中搜一下说不定就有解决方案了）

可以，理论上llama最多可以设置到2048。如果将mirco batch size设置为2，一张3090Ti就可以