justfuwei

Inference with FasterTransformer

5

使用docker构建GLM-130B的API，server正常启动了，但是在使用glm_server_test.py测试时报错。

能否提供一个完成的处理流程或者readme，感觉代码有点乱

[vllm] - <title>使用vllm api server 进行视频推理

2

### 起始日期 | Start Date _No response_ ### 实现PR | Implementation PR _No response_ ### 相关Issues | Reference Issues _No response_ ### 摘要 | Summary 目前能使用vllm api server 进行视频推理吗，只看到了使用vllm api...

Flux full train的模型转opensource format

4

Flux full train的模型在comfyui中无法加载，利用diffusers的脚本也无法转成diffusers格式，这个是否能支持