one-api
one-api copied to clipboard
零一万物的yi-vl-plus 视觉模型没有返回
例行检查
- [x ] 我已确认目前没有类似 issue
- [ x] 我已确认我已升级到最新版本
- [ x] 我已完整查看过项目 README,尤其是常见问题部分
- [ x] 我理解并愿意跟进此 issue,协助测试和提供反馈
- [ x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭
问题描述 按照官方文档的路径调用,没有返回的content 复现步骤 import requests
设置 API 的 URL 和所需的 headers
url = "https://xxxxx/v1/chat/completions" headers = { "Content-Type": "application/json", "Authorization": "Bearer xxxx" # 替换为您的实际 API 密钥 }
准备发送的数据
data = { "model": "yi-vl-plus", "messages": [ { "role": "user", "content": [ { "type": "text", "text": "做多还是做空?" }, { "type": "image_url", "image_url": { "url": "https://s2.loli.net/2024/03/15/KhF1W53Cntgsp9I.png" } } ] } ], "max_tokens": 3000 }
发送 POST 请求
response = requests.post(url, json=data, headers=headers)
打印响应
print(response.text) 这是返回的内容 {"created":0,"model":"yi-vl-plus","usage":{"completion_tokens":0,"prompt_tokens":1021,"total_tokens":1021},"choices":[{"index":0,"message":{"role":"assistant","content":""},"finish_reason":"error"}]} content为空 预期结果
相关截图 如果没有的话,请删除此节。
同样的问题,后面发现yi-vl-plus的maxTokens为4k,且不能有system提示词,修改fastgpt的config,把maxToken改成2048就可以了
请问零一万物怎么接入oneapi,好像没有server