LTOM

使用vllm 0.2.2版本进行部署。调用之后一直输出停不下来，知道超出tokens限制

M

> @younggggger If you are running this in Mac with M1/2 chips, you may replace the `mysql:5.7.18` by `mariadb:10.5.8 I followed your prompts to modify the configuration of mysql as...

> 微调的时候如何让模型记住一些特有的知识呢？比如问你是谁，由谁开发的场景，需要模型回答固定的答案这样，类似于faq 将这条信息写死在prompt中。让模型回答的时候参考这条信息，可以快速解决这个问题

+1

你们这是先吹一波 然后就没下文了？啥时候开放下载的链接有个日期么

项目关于模板的提取思路很好，但是在切词上面，是否可以用现有的比较成熟的切词模型，比如ltp ,结巴等

mark