牡丹凤凰
牡丹凤凰
我个人也觉得在`CUSTOM_MODEL`里定义比较方便，但是不建议在`模型名`后面添加，可以在`展示名`后面添加，这样哪怕有错误也不影响使用，顶多就是展示的名称有点问题，出错了也好排查。 如`模型名=展示名(0,0）` 当然为了避免有人喜欢在`展示名`里加括号备注，匹配最后一个括号的内容就行，有设置按设置展示，没设置就默认全开。 如`模型名=展示名（0.001元/K tokens）(0,0）` -------------------- 另外`DIY`的标是不是可以不让展示，反正非DIY的模型名称前都有logo也不难区分，或者统一使用一个表示自定义模型的logo，这样模型列表看起来也会整洁许多，加个`DIY`部署好给不懂的小白用户使用的时候看到`DIY`以为是什么野鸡模型哈哈哈 ---------------- 还有既然这两个都自定义的话，那模型的最大tokens是否也可以支持自定义，替换掉`DIY`的标识。 基于上面的提议： 第一种建议是用四舍五入的方法让他显示几K。 如: `模型名=展示名(0,0,4096）`在前端展示名就是`模型名 ...4k` `模型名=展示名(0,0,16385）`在前端展示名就是`模型名 ...16k` 第二种建议是**n\*1024**或者**n\*1000**的方式，在`CUSTOM_MODEL`里直接自定义nK，那么该模型最大tokens就是**n\*1024**或者**n\*1000** `模型名=展示名(0,0,4K）`在前端展示名就是`模型名 ...4k`，最大tokens就是**4\*1024=4096**或者**4\*1000=4000** `模型名=展示名(0,0,16K）`在前端展示名就是`模型名 ...16k`，最大tokens就是**16\*1024=16384**或者**16\*1000=16000**
那如果增加环境变量来设置呢，默认全关，给需要开的模型单独设置。毕竟大多数模型只有基础的聊天能力，这样的话也不用填太多 比如在openai的设置下新增类似这种 `CUSTOM_MODELS_VISION` `CUSTOM_MODELS_FUNCTIONCALL` `CUSTOM_MODELS_FILE` `CUSTOM_MODELS_MAXTOKENS` ...... 反正我觉得环境变量的设置越往后越臃肿是必然的哈哈哈
> > +1，希望能支持dify的知识库 > > 有接口文档吗 注册个[dify账号](https://cloud.dify.ai/apps) →登录→创建应用→点击最左边菜单栏里的“访问API”的icon就能看到接口文档了