Kevinddddddd
Kevinddddddd
可以试试用triton server，可以加载多个实例
> PaddleOCRv3那种带transformer的都是可以用的，不知道你需要啥算子 感谢回复！就是RNN、transformer这种模型，算子应该都支持，主要是想看看相关demo学习一下。
> 优化了一版 GPU 推理性能，可以装最新的 `chatglm-cpp` 测试下。 你好，请问我下了最新的chatglm-cpp 0.2.1版本，发现还是没有调用gpu，这个是需要加什么参数进去或者指定某个gpu吗？
> @Kevinddddddd 要 CMAKE_ARGS="-DGGML_CUBLAS=ON" pip install chatglm-cpp --force-reinstall -v 这样安装。我用起来了 好的感谢，我去试一下
您好，这是我点击Model Management后出现的报错，页面是空白，没有任何显示。 谢谢回复！ [07/Feb/2023 16:02:15] "GET /thedataset/toDatasetList/ HTTP/1.1" 200 11086 Not Found: /home/document/OOD/TEXTOIR-DEMO-main/frontend/templates/thedataset/BrowserUpdate.exe [07/Feb/2023 16:02:15] "GET /home/document/OOD/TEXTOIR-DEMO-main/frontend/templates/thedataset/BrowserUpdate.exe HTTP/1.1" 404 3535 {'dataset_id': 1, 'dataset_name': 'banking', 'domain': 'banking', 'class_num': 77, 'source': 'xxx',...