mkdir700

Thank you, I understand this, but this PR is to support Python3.12, not to support Pydanic v2. Regarding the support for Pydantic V2, I think this should be opened as...

Thank you for your feedback, I will try to fix it.

I am happy to help, but I am also a novice in VIM. I will do my best.

设置成 4096 后，超出 4096 就会报错了。设置成 1000 就没问题，是不是内部做了什么处理。

> 设置成 4096 后，超出 4096 就会报错了。设置成 1000 就没问题，是不是内部做了什么处理。 比如说，设当前发送的消息内容消耗的 token 为 x，那么再取上文 (4096 - x) 的文本，一共 4096 发送。

> 我试了一下设置4000没有问题，我把默认值改成4000了 我这里还是有问题，你尝试上文多一点的会话。 这个问题解决了再发新版吧，感觉还是有影响的，或者默认 1000，下个版本再修。

是的

> 拉下最新的代码再试试呢 现在没问题了。抓包看了这个 max_token 还是 1000 。 这里的 max_token，应该指的是响应内容的最大 token 数 

现在设置的是模型 token 数，也就是请求的最大 token 数

可以考虑将这些集成至插件中，给一个选择框默认选择的官方的API地址，其他的就是第三方的镜像地址。 这样可以降低使用门槛，梯子就是非必要条件了。