SkySlity

推理结果的长度不足怎么调整，或者怎么让它继续推理

11

目前设备的量是够的，性能都是够的，配了4卡，但是推理的时候发现性能都没有拉满，慢就不说了，还非常的短，每次废话讲半天到重要的地方就截断了

[BUG/Help] <title>请问目前输入最大支持多少字符？对应需要多少显存，另外内存共享给GPU的内存可以被调用吗？

3

### Is there an existing issue for this? - [X] I have searched the existing issues ### Current Behavior 请问目前输入最大支持多少字符？对应需要多少显存，另外内存共享给GPU的内存可以被调用吗？ 这边想用来做公司的CodeReview，但是代码量级非常大 ### Expected Behavior _No response_ ### Steps To Reproduce...

数据抓取后似乎不能正常运行

1

2024-11-30 21:02:10,203 Uncaught exception GET /instock/api_data?name=cn_stock_selection&date=2024-11-29 (192.168.8.76) HTTPServerRequest(protocol='http', host='192.168.8.8:9988', method='GET', uri='/instock/api_data?name=cn_stock_selection&date=2024-11-29', version='HTTP/1.1', remote_ip='192.168.8.76') Traceback (most recent call last): File "/usr/local/lib/python3.11/site-packages/tornado/web.py", line 1788, in _execute result = method(*self.path_args, **self.path_kwargs) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ File...