api-for-open-llm

api-for-open-llm copied to clipboard

💡 [REQUEST] - 请问可以支持中国电信大模型Telechat吗？流程可以跑通，但是回复content会被截断

9

### 起始日期 | Start Date 8/2/2024 ### 实现PR | Implementation PR 整体流程可以跑通，正常读取模型，启动服务，调用API ### 相关Issues | Reference Issues 回复内容上出现截断 ### 摘要 | Summary 让Telechat可以完美适配 ### 基本示例 | Basic Example content：“XXXXX，XXXX。XXXXX ￥%*&（某些字符，每次不一样，然后就断了）”，role：assistant...

Song345381185

fixed ModuleNotFoundError: No module named 'api' error on Linux 

Zeknes

llama3-8B回答后自我交流，不停止

1

### 提交前必须检查以下项目 | The following items must be checked before submission - [X] 请确保使用的是仓库最新代码（git pull），一些问题已被解决和修复。 | Make sure you are using the latest code from the repository (git pull), some...

yd9038074

glm-4v启动正常 访问推理报错

10

### 提交前必须检查以下项目 | The following items must be checked before submission - [X] 请确保使用的是仓库最新代码（git pull），一些问题已被解决和修复。 | Make sure you are using the latest code from the repository (git pull), some...

760485464

使用 streamer_v2 会造成乱码

2

### 提交前必须检查以下项目 | The following items must be checked before submission - [X] 请确保使用的是仓库最新代码（git pull），一些问题已被解决和修复。 | Make sure you are using the latest code from the repository (git pull), some...

Tendo33

glm4 接入dify后无法触发使用工具

1

### 提交前必须检查以下项目 | The following items must be checked before submission - [X] 请确保使用的是仓库最新代码（git pull），一些问题已被解决和修复。 | Make sure you are using the latest code from the repository (git pull), some...

he498

### 提交前必须检查以下项目 | The following items must be checked before submission - [X] 请确保使用的是仓库最新代码（git pull），一些问题已被解决和修复。 | Make sure you are using the latest code from the repository (git pull), some...

NCCurry30

框架vllm输出截断，但是官方vllm启动和transformers运行模型都不

2

### 提交前必须检查以下项目 | The following items must be checked before submission - [X] 请确保使用的是仓库最新代码（git pull），一些问题已被解决和修复。 | Make sure you are using the latest code from the repository (git pull), some...

TLL1213

运行glm4v请求报错

2

### 提交前必须检查以下项目 | The following items must be checked before submission - [X] 请确保使用的是仓库最新代码（git pull），一些问题已被解决和修复。 | Make sure you are using the latest code from the repository (git pull), some...

760485464

### 提交前必须检查以下项目 | The following items must be checked before submission - [X] 请确保使用的是仓库最新代码（git pull），一些问题已被解决和修复。 | Make sure you are using the latest code from the repository (git pull), some...

colinsongf