FastGPT icon indicating copy to clipboard operation
FastGPT copied to clipboard

测试模型和使用MCP服务报错,message: '400 status code (no body)

Open pkusub opened this issue 7 months ago • 4 comments

例行检查

  • [ ] 我已确认目前没有类似 issue
  • [x] 我已完整查看过项目 README,以及项目文档
  • [x] 我使用了自己的 key,并确认我的 key 是可正常使用的
  • [x] 我理解并愿意跟进此 issue,协助测试和提供反馈
  • [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

你的版本

  • [ ] 公有云版本
  • [X] 私有部署版本, 具体版本号: V4.9.7

问题描述, 日志截图,配置文件等

这种错误在两个地方碰到过,都是报的一样的错误 (1)一个是使用vllm加载模型,添加测试的时候报错,用的是Qwen2.5-7B-Instruct-1M (2)使用MCP工具调用的时候,使用的是Xinference,但是添加测试的时候通过,用的是QWEN2.5 32B,第一种情况就是使用这种方式不行的时候,我想换个模型框架报的问题。

并且两者我使用终端直接测试都是OK,代表模型接口没问题

备注:全部都是使用的docker环境,包含VLLM和Xinference,且均为最新版本

[Warn] 2025-05-01 03:07:07 LLM response error {"requestBody":{"model":"Qwen2.5-7B-Instruct-1M","messages":[{"role":"user","content":"hi"}],"stream":true}}

[Error] 2025-05-01 03:07:07 Api response error: /api/core/ai/model/test?model=Qwen2.5-7B-Instruct-1M, 400 status code (no body)

{

message: '400 status code (no body)',

stack: 'Error: 400 status code (no body)\n' +

'    at tJ.generate (/app/projects/app/.next/server/chunks/37468.js:9:419588)\n' +

'    at ic.makeStatusError (/app/projects/app/.next/server/chunks/37468.js:9:411253)\n' +

'    at ic.makeRequest (/app/projects/app/.next/server/chunks/37468.js:9:412176)\n' +

'    at process.processTicksAndRejections (node:internal/process/task_queues:95:5)\n' +

'    at async g (/app/projects/app/.next/server/chunks/57570.js:5:12663)\n' +

'    at async w (/app/projects/app/.next/server/pages/api/core/ai/model/test.js:1:17135)\n' +

'    at async /app/projects/app/.next/server/pages/api/support/user/team/plan/getTeamPlanStatus.js:1:8213\n' +

'    at async K (/app/node_modules/.pnpm/[email protected]_@[email protected][email protected][email protected][email protected][email protected]/node_modules/next/dist/compiled/next-server/pages-api.runtime.prod.js:20:16881)\n' +

'    at async U.render (/app/node_modules/.pnpm/[email protected]_@[email protected][email protected][email protected][email protected][email protected]/node_modules/next/dist/compiled/next-server/pages-api.runtime.prod.js:20:17520)\n' +

'    at async NextNodeServer.runApi (/app/node_modules/.pnpm/[email protected]_@[email protected][email protected][email protected][email protected][email protected]/node_modules/next/dist/server/next-server.js:603:9)'

} 复现步骤 (1)添加模型,直接测试(2)使用高德MCP 预期结果 希望使用正常 相关截图

Image

pkusub avatar May 01 '25 03:05 pkusub

Image 我遇到了类似的报错,请问下,你后来解决了吗

walingcc avatar May 06 '25 04:05 walingcc

@walingcc 没有,不过我测试发现,有思考链的模型调用回答会很奇怪,后来切换为qwen2.5 32B (无思考链模型)可以成功(偶尔成功,大部分时候输出一些参数作为回答,有点摸不着头脑),另外不支持fuction call的模型是绝对不行的,大概情况是这样

pkusub avatar May 06 '25 05:05 pkusub

@walingcc 没有,不过我测试发现,有思考链的模型调用回答会很奇怪,后来切换为qwen2.5 32B (无思考链模型)可以成功(偶尔成功,大部分时候输出一些参数作为回答,有点摸不着头脑),另外不支持fuction call的模型是绝对不行的,大概情况是这样

我使用qwen2.5也是可以的,使用 deepseek-r1 模型就报错“400 status code (no body)”

walingcc avatar May 06 '25 06:05 walingcc

我也是400 status code (no body) deepseek v3

parsevip avatar Nov 08 '25 09:11 parsevip