cherry-studio icon indicating copy to clipboard operation
cherry-studio copied to clipboard

支持联网模式

Open yuhuihu opened this issue 1 year ago • 7 comments

世上最完美的LLM UI, 只缺最后一个砖: web rag 大神们, 能否赐下这个砖。 收费都可以, 这个功能比知识库更实用。

yuhuihu avatar Sep 20 '24 02:09 yuhuihu

web rag 就是实时联网查询对吗 @yuhuihu

kangfenmao avatar Sep 20 '24 03:09 kangfenmao

是的

SHLE1 avatar Sep 20 '24 03:09 SHLE1

实际上是缺少自定义插件机制。可以让使用者自己去开发插件,或者创造一个插件生态。类似 Bob。

zhuiyue132 avatar Sep 20 '24 10:09 zhuiyue132

实际上是缺少自定义插件机制。可以让使用者自己去开发插件,或者创造一个插件生态。类似 Bob。

这也是一个天才的想法,Bob的代码我之前看过,它的插件机制很不错

kangfenmao avatar Sep 20 '24 10:09 kangfenmao

实际上是缺少自定义插件机制。可以让使用者自己去开发插件,或者创造一个插件生态。类似 Bob。

这也是一个天才的想法,Bob的代码我之前看过,它的插件机制很不错

个人不建议现在就考虑生态, 插件之类。 用户需求和技术都在快速发展,这个时候,一个开源没有银弹支持的产品,插件并不能帮助它改变世界。 开箱就是核心功能完美,才是王道。只要锁定了第一批用户, 后面融资也好,自营也罢, 才有思考的权利。从产品生命生存的角度, LLM 本地客户端其实是个很有潜力的赛道, 做长远计,直接捶核心功能吧。 技术层面你们头疼的插件模式、架构, 没有必要费神, 市场会给你答案。

yuhuihu avatar Sep 22 '24 06:09 yuhuihu

实际上是缺少自定义插件机制。可以让使用者自己去开发插件,或者创造一个插件生态。类似 Bob。

这也是一个天才的想法,Bob的代码我之前看过,它的插件机制很不错

个人不建议现在就考虑生态, 插件之类。 用户需求和技术都在快速发展,这个时候,一个开源没有银弹支持的产品,插件并不能帮助它改变世界。 开箱就是核心功能完美,才是王道。只要锁定了第一批用户, 后面融资也好,自营也罢, 才有思考的权利。从产品生命生存的角度, LLM 本地客户端其实是个很有潜力的赛道, 做长远计,直接捶核心功能吧。 技术层面你们头疼的插件模式、架构, 没有必要费神, 市场会给你答案。

赞同,先做开箱即用功能吧。

kangfenmao avatar Sep 22 '24 07:09 kangfenmao

插件系统要搞起来肯定要服务器支持,对于一个本地客户端来说太复杂了。 如果只是要搜索功能的话,可以用这个 search2ai,直接把 openai api 转换为带搜索功能的 api

世上最完美的LLM UI, 只缺最后一个砖: web rag 大神们, 能否赐下这个砖。 收费都可以, 这个功能比知识库更实用。

DrayChou avatar Sep 28 '24 15:09 DrayChou

+1

DemonJun avatar Oct 15 '24 06:10 DemonJun

+1

安排

kangfenmao avatar Oct 15 '24 06:10 kangfenmao

大家希望接入什么搜索引擎 @yuhuihu @DrayChou @DemonJun @zhuiyue132 有没有参考的界面或者文档

kangfenmao avatar Oct 15 '24 06:10 kangfenmao

Serper & google

SHLE1 avatar Oct 15 '24 06:10 SHLE1

Serper & google

那就先加这个服务吧 https://serper.dev/

但是这家只能抓取列表,好像不支持抓取网页内容

kangfenmao avatar Oct 15 '24 06:10 kangfenmao

searxng or google

DemonJun avatar Oct 15 '24 06:10 DemonJun

Serper & google

那就先加这个服务吧 https://serper.dev/

但是这家只能抓取列表,好像不支持抓取网页内容

那就google? 另一位也推荐google

SHLE1 avatar Oct 15 '24 06:10 SHLE1

Serper & google

那就先加这个服务吧 https://serper.dev/ 但是这家只能抓取列表,好像不支持抓取网页内容

那就google? 另一位也推荐google

关键是如何抓到内容。

最好是有一个云服务商可以提供抓取的内容,但是这样需要用户注册并填写 API key

或者有没有一些工具库可以自动抓内容文本

kangfenmao avatar Oct 15 '24 06:10 kangfenmao

https://openwebui.com/t/cooksleep/infinite_search https://openwebui.com/f/cooksleep/openai_react_agent_added_whitelist_version 不知道这两个 openwebui 里的对你有没有帮助

DemonJun avatar Oct 15 '24 07:10 DemonJun

searxng 本身就支持 google + duckduckgo,有着良好的接口。可以参见 https://github.com/searxng/searxng

另外,单独接 duckduckgo 也很方便。 google api key 需要单独申请略微麻烦,bing 搜索之前了解的时候发现要收费,暂时没有使用。

我现在在用的就是 search2api + searxng 的方式,直接把 openai 协议的请求打包成内嵌搜索的模式。

下面是我在用的一个 ollama 客户端内嵌的搜索配置界面给你参考: https://chromewebstore.google.com/detail/page-assist-a-web-ui-for/jfgfiigpkhlkbnfnbobbkinehhfdhndo image

DrayChou avatar Oct 16 '24 17:10 DrayChou

每月免费1000次 https://docs.tavily.com/docs/welcome

SHLE1 avatar Nov 27 '24 02:11 SHLE1

插件系统要搞起来肯定要服务器支持,对于一个本地客户端来说太复杂了。

怎么会?现在市面上最缺的就是支持本地插件扩展的客户端,大部分都是服务端版本,能做的最多也只有在对话中添加一些信息。

让用户自己在本地编写脚本,用GPT来调用在本地执行,tool use 就不拘泥于只是为对话提供信息了,它可以直接操作你的计算机,实现一些简单的自定义的本地流程——写入文件、查询本地知识库、调用本地某些第三方软件等等。

这应该是一件很自然的事,目前的 computer use 也就相当于做的这件事。

ZzzzRyan avatar Nov 27 '24 02:11 ZzzzRyan

这个本地插件我计划要做的,使用 js 语言可以开发插件

kangfenmao avatar Nov 27 '24 04:11 kangfenmao

先加一个开箱机用的联网功能吧, 插件生态或者说AI agent 最后会发展什么样子,现在还不确定,各有各的方案 未来会有一个统一的 agent 协议(像 MCP 那种) ,那可能其他的agent 生态都会不活跃. 或者可以考虑支持一下 MCP 协议? 我比较看好这个协议,现在也有一些很好的 agent 了,配置起来也比较方便, 可以看看https://github.com/apappascs/mcp-servers-hub?tab=readme-ov-file#mcp-servers

coderzc avatar Jan 19 '25 08:01 coderzc

mcp 对于普通用户还是太难配置了

kangfenmao avatar Jan 19 '25 08:01 kangfenmao

mcp 对于普通用户还是太难配置了

那可以加一个UI界面,就是拉取一下 mcp server list, 然后点击安装,基本上就是 npx uvx 这两个命令

coderzc avatar Jan 19 '25 09:01 coderzc

可以用第三方的 mcp server

kangfenmao avatar Jan 19 '25 09:01 kangfenmao

可以用第三方的 mcp server

第三方mcp server 是指? remote mcp server 吗?

coderzc avatar Jan 19 '25 09:01 coderzc

可以用第三方的 mcp server

第三方mcp server 是指? remote mcp server 吗?

是的

kangfenmao avatar Jan 19 '25 09:01 kangfenmao

可以用第三方的 mcp server

第三方mcp server 是指? remote mcp server 吗?

是的

那也不错,但是本地的MCP server还可以做到像compute use 这样的事情,不单单是为LLM提供上下文

coderzc avatar Jan 19 '25 09:01 coderzc

什么时候能支持呢 期待

debukomori avatar Jan 21 '25 16:01 debukomori

https://jina.ai/reader

Jina 的免费额度足够,且任何一个新的无痕浏览器就可以刷新额度,这个可以作为搜索引擎以及网页抓取引擎

Image

forrany avatar Feb 08 '25 07:02 forrany

https://jina.ai/reader

Jina 的免费额度足够,且任何一个新的无痕浏览器就可以刷新额度,这个可以作为搜索引擎以及网页抓取引擎

Image

这个怎么在studio里面使用啊?

alsomail avatar Feb 08 '25 07:02 alsomail