datalee

Results 100 comments of datalee

支持大模型的推理吗

hehe

支持大模型的推理吗

> > hehe > > 友商别黑，现在已经很多做Decoder-only LLM的inference了，其实挑战和encoder有比较大的差别了。这issue post的两年前的大模型还不是指decoder-only的。 好吧

No module named 'seqeval' even after installing the package

pip install setuptools_scm，then install seqeval

Support for chatglm-6B/GLM models?

torch.classes.FasterTransformer.GlmOp

Support for chatglm-6B/GLM models?

Same request.

v100 lora fp16训练后有什么推理加速的方法吗

+1 同求

Add CRF Layer to NER Model

+1

[Feature]: MLA Support

mark

关于chatGLM-6B的embedding API接口

mark

Error in textConnection(message) : invalid 'text' argument

@ruaridhw [error_dataframe](https://github.com/datalee/error_dataframe/blob/master/error_dataframe.rar)