zhangsibo1129

Results 2 comments of zhangsibo1129

> @zzhangpurdue 您好,关于本地部署modelscope llm的方案,建议您参考[docs/local_deploy.md](https://github.com/modelscope/modelscope-agent/blob/master/docs/local_deploy.md)这个文档来进行部署,这个使用的是modelscope_agent/llm/openai.py进行构建的,modelscope_agent/llm/modelscope.py属于较早版本内容,近期没有维护计划,建议参考文档使用agent的最新的本地部署方案 modelscope_agent/llm/modelscope.py 这条路线后面还维护吗?

modelscope.py 的模型推理方式我在本地修复了,问题出在有些函数没实现+停止条件的一些细节,不是之前提到的message[0]的问题,验证可以得到预期结果,需要的话我可以提个PR @zzhangpurdue