支持联网模式
世上最完美的LLM UI, 只缺最后一个砖: web rag 大神们, 能否赐下这个砖。 收费都可以, 这个功能比知识库更实用。
web rag 就是实时联网查询对吗 @yuhuihu
是的
实际上是缺少自定义插件机制。可以让使用者自己去开发插件,或者创造一个插件生态。类似 Bob。
实际上是缺少自定义插件机制。可以让使用者自己去开发插件,或者创造一个插件生态。类似 Bob。
这也是一个天才的想法,Bob的代码我之前看过,它的插件机制很不错
实际上是缺少自定义插件机制。可以让使用者自己去开发插件,或者创造一个插件生态。类似 Bob。
这也是一个天才的想法,Bob的代码我之前看过,它的插件机制很不错
个人不建议现在就考虑生态, 插件之类。 用户需求和技术都在快速发展,这个时候,一个开源没有银弹支持的产品,插件并不能帮助它改变世界。 开箱就是核心功能完美,才是王道。只要锁定了第一批用户, 后面融资也好,自营也罢, 才有思考的权利。从产品生命生存的角度, LLM 本地客户端其实是个很有潜力的赛道, 做长远计,直接捶核心功能吧。 技术层面你们头疼的插件模式、架构, 没有必要费神, 市场会给你答案。
实际上是缺少自定义插件机制。可以让使用者自己去开发插件,或者创造一个插件生态。类似 Bob。
这也是一个天才的想法,Bob的代码我之前看过,它的插件机制很不错
个人不建议现在就考虑生态, 插件之类。 用户需求和技术都在快速发展,这个时候,一个开源没有银弹支持的产品,插件并不能帮助它改变世界。 开箱就是核心功能完美,才是王道。只要锁定了第一批用户, 后面融资也好,自营也罢, 才有思考的权利。从产品生命生存的角度, LLM 本地客户端其实是个很有潜力的赛道, 做长远计,直接捶核心功能吧。 技术层面你们头疼的插件模式、架构, 没有必要费神, 市场会给你答案。
赞同,先做开箱即用功能吧。
插件系统要搞起来肯定要服务器支持,对于一个本地客户端来说太复杂了。 如果只是要搜索功能的话,可以用这个 search2ai,直接把 openai api 转换为带搜索功能的 api
世上最完美的LLM UI, 只缺最后一个砖: web rag 大神们, 能否赐下这个砖。 收费都可以, 这个功能比知识库更实用。
+1
+1
安排
大家希望接入什么搜索引擎 @yuhuihu @DrayChou @DemonJun @zhuiyue132 有没有参考的界面或者文档
Serper & google
Serper & google
那就先加这个服务吧 https://serper.dev/
但是这家只能抓取列表,好像不支持抓取网页内容
searxng or google
Serper & google
那就先加这个服务吧 https://serper.dev/
但是这家只能抓取列表,好像不支持抓取网页内容
那就google? 另一位也推荐google
Serper & google
那就先加这个服务吧 https://serper.dev/ 但是这家只能抓取列表,好像不支持抓取网页内容
那就google? 另一位也推荐google
关键是如何抓到内容。
最好是有一个云服务商可以提供抓取的内容,但是这样需要用户注册并填写 API key
或者有没有一些工具库可以自动抓内容文本
https://openwebui.com/t/cooksleep/infinite_search https://openwebui.com/f/cooksleep/openai_react_agent_added_whitelist_version 不知道这两个 openwebui 里的对你有没有帮助
searxng 本身就支持 google + duckduckgo,有着良好的接口。可以参见 https://github.com/searxng/searxng
另外,单独接 duckduckgo 也很方便。 google api key 需要单独申请略微麻烦,bing 搜索之前了解的时候发现要收费,暂时没有使用。
我现在在用的就是 search2api + searxng 的方式,直接把 openai 协议的请求打包成内嵌搜索的模式。
下面是我在用的一个 ollama 客户端内嵌的搜索配置界面给你参考:
https://chromewebstore.google.com/detail/page-assist-a-web-ui-for/jfgfiigpkhlkbnfnbobbkinehhfdhndo
每月免费1000次 https://docs.tavily.com/docs/welcome
插件系统要搞起来肯定要服务器支持,对于一个本地客户端来说太复杂了。
怎么会?现在市面上最缺的就是支持本地插件扩展的客户端,大部分都是服务端版本,能做的最多也只有在对话中添加一些信息。
让用户自己在本地编写脚本,用GPT来调用在本地执行,tool use 就不拘泥于只是为对话提供信息了,它可以直接操作你的计算机,实现一些简单的自定义的本地流程——写入文件、查询本地知识库、调用本地某些第三方软件等等。
这应该是一件很自然的事,目前的 computer use 也就相当于做的这件事。
这个本地插件我计划要做的,使用 js 语言可以开发插件
先加一个开箱机用的联网功能吧, 插件生态或者说AI agent 最后会发展什么样子,现在还不确定,各有各的方案 未来会有一个统一的 agent 协议(像 MCP 那种) ,那可能其他的agent 生态都会不活跃. 或者可以考虑支持一下 MCP 协议? 我比较看好这个协议,现在也有一些很好的 agent 了,配置起来也比较方便, 可以看看https://github.com/apappascs/mcp-servers-hub?tab=readme-ov-file#mcp-servers
mcp 对于普通用户还是太难配置了
mcp 对于普通用户还是太难配置了
那可以加一个UI界面,就是拉取一下 mcp server list, 然后点击安装,基本上就是 npx uvx 这两个命令
可以用第三方的 mcp server
可以用第三方的 mcp server
第三方mcp server 是指? remote mcp server 吗?
可以用第三方的 mcp server
第三方mcp server 是指? remote mcp server 吗?
是的
可以用第三方的 mcp server
第三方mcp server 是指? remote mcp server 吗?
是的
那也不错,但是本地的MCP server还可以做到像compute use 这样的事情,不单单是为LLM提供上下文
什么时候能支持呢 期待
https://jina.ai/reader
Jina 的免费额度足够,且任何一个新的无痕浏览器就可以刷新额度,这个可以作为搜索引擎以及网页抓取引擎
https://jina.ai/reader
Jina 的免费额度足够,且任何一个新的无痕浏览器就可以刷新额度,这个可以作为搜索引擎以及网页抓取引擎
![]()
这个怎么在studio里面使用啊?