FastGPT icon indicating copy to clipboard operation
FastGPT copied to clipboard

4.9.0 ollama测试失败

Open goactiongo opened this issue 10 months ago • 2 comments

升级前通过oneapi调用ollama,使用ok Image

goactiongo avatar Mar 07 '25 15:03 goactiongo

下周找 aiproxy 同学 测试下

c121914yu avatar Mar 07 '25 16:03 c121914yu

应该是调度地址不匹配了 我升级完聊天模块也都不能用了,测试能通,但返回都是空,索引模块都没问题。可视化模块都集成到fastgpt里面了,也算是一个不错的改进,希望大佬们能让它更简单易用,设置更通俗易懂~

jhsvip avatar Mar 07 '25 19:03 jhsvip

应该是调度地址不匹配了 我升级完聊天模块也都不能用了,测试能通,但返回都是空,索引模块都没问题。可视化模块都集成到fastgpt里面了,也算是一个不错的改进,希望大佬们能让它更简单易用,设置更通俗易懂~

不支持 ollama chat。emb 可以。

c121914yu avatar Mar 09 '25 16:03 c121914yu

应该是调度地址不匹配了 我升级完聊天模块也都不能用了,测试能通,但返回都是空,索引模块都没问题。可视化模块都集成到fastgpt里面了,也算是一个不错的改进,希望大佬们能让它更简单易用,设置更通俗易懂~

不支持 ollama chat。emb 可以。

这个怎么理解?我目前也是最新的4.9版本,遇到的问题是一样的。模型渠道测试都是OK的,但是在聊天窗口调用该模型时一直返回空,一直没解决这个问题。

LHMiles avatar Mar 10 '25 06:03 LHMiles

应该是调度地址不匹配了 我升级完聊天模块也都不能用了,测试能通,但返回都是空,索引模块都没问题。可视化模块都集成到fastgpt里面了,也算是一个不错的改进,希望大佬们能让它更简单易用,设置更通俗易懂~

不支持 ollama chat。emb 可以。

这个怎么理解?我目前也是最新的4.9版本,遇到的问题是一样的。模型渠道测试都是OK的,但是在聊天窗口调用该模型时一直返回空,一直没解决这个问题。

因为是基于 oneapi 0.6.8版本开发的,oneapi 0.6.8 版本 ollama 版本的 stream 模式有问题。测试是非 stream 模式,所以没问题。 需要等待ai proxy 修复

c121914yu avatar Mar 10 '25 06:03 c121914yu

应该是调度地址不匹配了 我升级完聊天模块也都不能用了,测试能通,但返回都是空,索引模块都没问题。可视化模块都集成到fastgpt里面了,也算是一个不错的改进,希望大佬们能让它更简单易用,设置更通俗易懂~

不支持 ollama chat。emb 可以。

这个怎么理解?我目前也是最新的4.9版本,遇到的问题是一样的。模型渠道测试都是OK的,但是在聊天窗口调用该模型时一直返回空,一直没解决这个问题。

因为是基于 oneapi 0.6.8版本开发的,oneapi 0.6.8 版本 ollama 版本的 stream 模式有问题。测试是非 stream 模式,所以没问题。 需要等待ai proxy 修复

4.9版本的调用不是基于AiProxy开发的么?oneapi 是之前的老版本的调用模式啊

LHMiles avatar Mar 10 '25 07:03 LHMiles

已更新 ai proxy,hash 值 4885d224a 1741612443317.jpg

c121914yu avatar Mar 10 '25 13:03 c121914yu