one-api icon indicating copy to clipboard operation
one-api copied to clipboard

零一万物的yi-vl-plus 视觉模型没有返回

Open ye4293 opened this issue 11 months ago • 1 comments

例行检查

  • [x ] 我已确认目前没有类似 issue
  • [ x] 我已确认我已升级到最新版本
  • [ x] 我已完整查看过项目 README,尤其是常见问题部分
  • [ x] 我理解并愿意跟进此 issue,协助测试和提供反馈
  • [ x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

问题描述 按照官方文档的路径调用,没有返回的content 复现步骤 import requests

设置 API 的 URL 和所需的 headers

url = "https://xxxxx/v1/chat/completions" headers = { "Content-Type": "application/json", "Authorization": "Bearer xxxx" # 替换为您的实际 API 密钥 }

准备发送的数据

data = { "model": "yi-vl-plus", "messages": [ { "role": "user", "content": [ { "type": "text", "text": "做多还是做空?" }, { "type": "image_url", "image_url": { "url": "https://s2.loli.net/2024/03/15/KhF1W53Cntgsp9I.png" } } ] } ], "max_tokens": 3000 }

发送 POST 请求

response = requests.post(url, json=data, headers=headers)

打印响应

print(response.text) 这是返回的内容 {"created":0,"model":"yi-vl-plus","usage":{"completion_tokens":0,"prompt_tokens":1021,"total_tokens":1021},"choices":[{"index":0,"message":{"role":"assistant","content":""},"finish_reason":"error"}]} content为空 预期结果

相关截图 如果没有的话,请删除此节。

ye4293 avatar Mar 15 '24 04:03 ye4293

同样的问题,后面发现yi-vl-plus的maxTokens为4k,且不能有system提示词,修改fastgpt的config,把maxToken改成2048就可以了

linqinguang avatar Apr 10 '24 08:04 linqinguang

请问零一万物怎么接入oneapi,好像没有server

xuwtgx avatar Apr 11 '24 14:04 xuwtgx