zhanghanweii

您好，请问和CRF对比的话，单核CPU的推理速度快多少呢，我在英文测试集中的推理速度反而比CRF慢

我在英文数据集实验中也发现这个问题，对于长句，整个句子都会被预测为实体

他的训练格式是对的，应该只要把训练集中的文字，改成拼音就行

> > 您好，我在加载baichuan2-13b时候遇到相似问题，在0.3.3与0.4版本均存在，RuntimeError: No suitable kernel. h_in=32 h_out=15360 dtype=Float out_dtype=BFloat16 > > 当前的vllm版本中，punica的算子不支持15360，我之前的PR没有注意到这点，不好意思。 您可以在 https://github.com/vllm-project/vllm/blob/main/csrc/punica/bgmv/bgmv_config.h#L48 添加 > > ```c++ > f(in_T, out_T, W_T, narrow, 15360) \ > ``` > >...