AlchemistCoder

导出onnx出现warning

2

/usr/local/lib/python3.10/dist-packages/torch/onnx/utils.py:1636: UserWarning: The exported ONNX model failed ONNX shape inference.The model will not be executable by the ONNX Runtime.If this is unintended and you believe there is a bug,please report...

问题太长导致回复到一半就终止了

2

我为了提问回答能够更加精准，在提问的时候，给了ChatGLM3一些参考资料，但我发现如果参考资料太长，大概两百多字的话，就会导致回复经常出现只回答一半就终止了，甚至很多时候一句话只说了一半就结束了，这个问题应该怎么解决，我在电脑上跑ChatGLM3原模型时发现似乎并没有这个问题。