lijiajun1997
lijiajun1997
如果你的模型支持tool工具,可以直接把知识库挂在tool工具下,修改知识库的描述,她来安排问谁
向量相关度0.45, 那不相关的也会被匹配上,基本不太可能在知识库判定为空了。你得在AI提示词里加,如过提供的与问题不相关,你应该拒绝回答并回复:“xxx”
config里把tool choice 和function call关掉,另外工具调用对openai兼容性比较好,其他模型建议用分类。
版本更新到4.8试试
FastGPT是前端应用,本身不是大模型,你为啥要用PAI部署。
> PAI上跑大模型啊 你把大模型部署在云计算平台当作API,api接入fastgpt就好,fastgpt 用docker或者sealos部署。
> PAI不连外网 不连外网你fastgpt部署怎么用 不太了解PAI但是我印象里是可以作为api提供对外服务的才是
判断器 关键词判断出现类似最值和最新的问题,启动联网搜索。
> > 判断器 关键词判断出现类似最值和最新的问题,启动联网搜索。 > > 基于知识库里的知识进行最值问题呢 说白了就是知识范围的问题,因为有“引用上限”的限制,知识库引用的知识段只能是部分知识,感觉“引用上限”的会一直限制这类问题的回答范围,毕竟每个模型的input tokens是有限制的 那就没办法咯,或者只能手工加工知识库,把常用的问题穷举出来。
知识库的存储方式取决于部署模式,主要有两种:公有云(fastgpt在线版)和本地部署。 1. **公有云部署**: - **存储位置**:在公有云部署模式下,您的知识库数据将被存储在FastGPT的云服务器上。 - **安全性**:有隐私协议,但是仍然存在一定风险。 2. **本地部署**: - **存储位置**:在本地部署模式下,知识库数据将被存储在您自己的服务器或数据中心内。 - **安全性**:本地部署可以显著降低资料泄漏的风险,因为数据完全由您自己掌控。您可以根据自身需求实施严格的安全策略,如防火墙、入侵检测系统和数据加密等。 此外,向量化处理步骤也需要特别注意。向量化是将文本数据转换为向量表示的过程,这一步骤同样可能导致资料泄露。因此,为了确保数据的绝对安全,建议在本地部署环境中也部署本地向量模型。这样,所有数据处理都在您的内部网络中进行,进一步降低了泄露风险。