devsky

dcoker 部署 vllm 出现 404 Not Found

9

docker 部署 vllm qwen模型 启动成功，调用出现 "POST /v1/chat/completions HTTP/1.1" 404 Not Found 什么原因无法解决，请大神帮帮忙. http://127.0.0.1:7891/docs 显示 No operations defined in spec! 2024-05-09 07:00:03 INFO: Started server process [1] 2024-05-09 07:00:03 INFO: Waiting...

How to stop in the middle, display all content?

1

How to stop in the middle, display all content?

什么时候能修复 Qwen 1.5 call function功能了。

调用账单后 经常报 SocketTimeoutException: Read timed out错误

5

调用账单后 经常报 SocketTimeoutException: Read timed out错误 不知道是哪里原因

这里如何记录联系对话

5

@Test public void completionsContext() throws ApiException { CompletionReq req = CompletionReq.builder().model(Model.TEXT_DAVINCI_003.getName()) .stop("[\" Human:\", \" Bot:\"]").prompt("Human: 你好").build(); CompletionRes res = service.completions(req); System.out.println(JSONObject.toJSONString(res)); req.setPrompt(res.getAnswer() + "\n" + "Human: 你叫什么"); res = service.completions(req);...

怎样在原有训练模型上继续训练？

1

大神 怎样在已训练的模型上重复训练？

图片生成问题

2

我设置生成4张图片 每次只返回两张 好像还是流式返回 不知道是BUG还是就这样

上下文只能记住一层吗

3

大神上下文只能记住一层吗，如果多层怎么记

是否能优化规格属性

1

大神 每次删除增加规格属性 设置好的价格，库存信息都会重置不是很方便，能否优化一下！

请问各位大神，PuLID Mode 和 Weight Type 参数如何添加到API