BucherLi

请问量化功能什么时候发布正式tag

3

看最新的tag 是v2.2.0，该版本的代码是不包含量化功能的，请问有计划发布正式版的量化功能吗

支持多个模型问题

2

rasa通过自带的project参数可用来切换模型， curl 'ip:port/parse?q=123&project=project1' curl 'ip:port/parse?q=123&project=project2' 但是该项目的bilstm 实体识别不支持多个模型的切换。

**Rasa NLU version**: **Operating system** (windows, osx, ...): **Content of model configuration file**: ```yml ``` **Issue**:

计算左右熵算法问题

1

假设有两个词串分别是[a,b,c]和[b,c,a]，[a,b,c]在计算左熵的时候会转换成b->c->a存储到树中,[b,c,a]在顺序存储的时候也会转换成b->c->a存储到树中，那么这个时候计算bc的左熵的时候会有问题把，额外把a的次数多加了一。

为什么encode里用queue来实现

3

如题 为什么用在encode里用queue来异步获取句向量呢？而且我看里面设置的queue的长度为1，如果有并发的时候 会不会导致丢失数据呢

新词发现如何运用在大规模的数据集

1

我看demo 只是跑了一小段文本，如果我想让新词发现更准确 是不是尽可能用大数据集。如果是大数据集 怎么加载

Can i open the comments here? i want use this func for attn_mask

[Feature] [Eagle] Are there any plans to support the feature for batching prefill?

1

### Checklist - [x] 1. If the issue you raised is not a feature but a question, please raise a discussion at https://github.com/sgl-project/sglang/discussions/new/choose Otherwise, it will be closed. - [x]...