swift 中如何设置模型内部参数,如internvl中的max_dynamic_patch
+1
哈咯 max_dynamic_patch 参数,我没找到,在哪个文件啊
解决了吗
看上去max_dynamic_patch是固化为6了,在swift/llm/utils/vision_utils.py中的load_image函数里面
https://github.com/modelscope/ms-swift/blob/main/swift/llm/utils/template.py#L2032
https://github.com/modelscope/ms-swift/blob/main/swift/llm/utils/template.py#L2032
怎么在部署推理的时候 inference_client 传递max_dynamic_patch 参数呢?
https://github.com/modelscope/ms-swift/blob/main/swift/llm/utils/template.py#L2032
怎么在部署推理的时候 inference_client 传递max_dynamic_patch 参数呢?
目前好像传不过去
如果是训练或者推理 可以使用环境变量的方式修改