goldfish
goldfish
事情源于最近的commit: [增加hot_reload特性开关](https://github.com/zhayujie/chatgpt-on-wechat/commit/3ef7855384852d6733bd9af0e370a23d1a056568) hot_reload不与服务器同步登录后接受消息的状态，如果和bot大量互动后使用hot_reload会短时间响应大量历史信息，这边观测到峰值达到200tps，远远超过了openai提供给免费用户的速率限制： 为了避免被服务器识别为攻击行为，因此这边做了主动限速的commit，值得一提是RateLimitError错误处理是有必要的，因为openai也对tokens数做了限制 该功能为可选，可在config.json自由使用
据我了解这是一个比较新的feature，国内对这方面接触不深； 我在很早关注过这方面问题，最近用工作之外的休息时间终于把他做出来了，我来分享一下本次merge的工作 增加了三个实体：Tool、Bot、App - Tool是NLP模型与函数的钩子，向chatgpt提供Tool让他判断是否使用该工具，你可以把Tool理解成2023.3.23 openai发布的插件：[close ai 支持插件的新闻](https://openai.com/blog/chatgpt-plugins)，基于此，通过prompt能实现任何事情，不限于给某人打电话、点外卖、智能家居控制、虚拟人等（我不清楚openai实现插件具体细节，但我实现一个chatgpt api与可开发定制的Tool交互的方式） - Bot 是Chain of Thought（CoT） Bot，可以简单理解为用过prompt定义一个前提和规则让NLP模型自己思考下一步该怎么做，基于此达到解决复杂多流程的问题 - App = CoT Bot + some Tools，可以基于此做出各种复杂的应用 贡献点： 1. 解耦langchain，为本项目定制了一个langchain-lite包，增加proxy配置等无数个变动的细节 2. 实现一个让wechat bot与Tool交互的整套逻辑 3....
> Note: tool-hub 自0.4.4版本后将处于维护状态，新工具新特性的开发将放缓，如有问题请提issue或pr ## 介绍 tool插件给予chatgpt使用工具的能力，你能用它来做些chatgpt之前做不到的事情 tool插件有4个开箱即用的工具：terminal、python、url-get、meteo-weather，具体工具介绍见：[tool readme](https://github.com/goldfishh/chatgpt-on-wechat/blob/master/plugins/tool/README.md) ## 安装 本插件依赖chatgpt-on-wechat的“拓展依赖”，你需要确保执行命令: `pip3 install -r requirements-optional.txt` 并且没有报错 验证 执行: `pip list | grep chatgpt-tool-hub` 显示tool-hub具体安装版本 ## 使用说明 `#plist` 检查是否加载tool 插件...