qinanO

> 怎么跑起来的，不量化？ 我报这个：RuntimeError: Library cudart is not initialized

> > > > > > > > > 怎么跑起来的，不量化？ 我报这个：RuntimeError: Library cudart is not initialized > > 是不是物理机的Linux？ > > 如果是，是否按照pytorch官网按照rocm版本的？（ROCm版本的pytorch无法按照conda方式安装 > >  物理机linux，rocm；我看过代码了，量化依赖cudart的，没有提供hiprt的调用方法，所以量化用amd显卡跑不起来（cpu可以正常跑）。

> > > > > > > > > > > > > > > > > > > > > > > > > > > > > 怎么跑起来的，不量化？...

> 更正：经过测试，不是TPM的问题，貌似是模型的问题，gpt-4-vision-preview会出现这种问题，而更换到gpt-4-1106就不会出现这种问题。 gpt-4-1106有用过response_format={“type”: “json_object”}吗？好像耗时会长很多。

> 顺便说一句，您是如何将文件夹下载到本地系统的（即不是单击UI中的下载按钮），而是从脚本中下载的。 有个python的库叫gdown

scrollToBottom not working..

+1慢得一批，一开始我是用a卡跑的还以为是a卡问题，转n卡跑一样慢得要命。

json_object应该比较好做，我觉得应该先支持。用户能少写点代码。