ybshaw

请各位大佬帮忙看看这种问题怎么解决呢，每次都要加载模型一遍到内存，包装成http服务（`采用Flask框架`）也是一样，时间都耗在模型初始化上了

> 这是个人写法问题，模型加载一次就行了，模型加载到内存中，第二次 想问下这种写法哪里有问题呢，应该怎样改呀，基本是看着官网教程写的，不是很明白要怎样改

> 我不清楚 paddle 里怎么解决的。如果你把模型的类开一个单例模式（singleton）也许就能完美解决这个问题了，但也可能是你逻辑部门有问题，每次都要重新开模型。 代码就是上面的那几行，逻辑问题感觉不太应该有错误的，单例模式貌似是一个不错的方案，稍后尝试下，感谢

> > > 我不清楚 paddle 里怎么解决的。如果你把模型的类开一个单例模式（singleton）也许就能完美解决这个问题了，但也可能是你逻辑部门有问题，每次都要重新开模型。 > > > > > > 代码就是上面的那几行，逻辑问题感觉不太应该有错误的，单例模式貌似是一个不错的方案，稍后尝试下，感谢 > > 你逻辑有问题呢，你把模型加载放里面了，把模型加载放外面，可以当成参数传进去，或者直接调用也行。这样也是一次性的，不会在调用函数的时候每一次都载入模型。 确实不应该放到方法里面，这样每次调用函数都要加载一遍模型，有点茅塞顿开了，感谢大哥指点

经过测试，本地windows环境下不会出现这种问题 windows配置信息 ``` 处理器：Intel(R) Core(TM) i7-7700 CPU @ 3.60GHz 3.60 GHz 内存：16Ｇ ``` 同样代码，在`４核CPU　８G内存的　Intel Xeon CPU E5-2678`的服务器上也是一样的错误信息

> 就是把加载模型封装到一个函数就行，反正不要写到模型识别的函数中就行，提供个简单的demo吧 ```python def load_ocr_model(model_path): model = PaddleOCR(det_model_dir=model_path + '/xxx_det_infer', rec_model_dir=model_path + '/xxx_rec_infer') return model def my_ocr(image_path, ocr_model): results = ocr_model.ocr(image_path) return results if __name__ == "__main__": image_path = './xxx.png'...

> 附加错误截图  请问下你这个多模态是7B版的吗，还是量化后的，如果是7B的话GPU是什么配置呢

> @ybshaw hello! It seems like you're encountering an error when trying to load a `.pb` model exported from YOLOv5. The error message indicates there might be an issue with...

> 你是用yolo检测结果做的数据集吗，问是否存在dog，答yes no。多少个标签，多少数据量，多目标多标签的情况是如何处理的。 不是，就算简单的输入一张图片，要求模型回答指定的选项，比如输入一张猫的图片，希望模型回答图片中有还是没有猫，但是模型给的回答并没有按照预期只说”有“和”没有“两种，而是会多了其它内容，比如图片的具体内容、有可能有等情况

> > @poppp234 如果图片和模型在同一台机器上，模型回复：I'm sorry, but as an AI language model, I do not have access to files or directories on your computer or any external system. 如果不在同一台机器上，比如模型在服务器上运行，我需要在其他电脑调用api，应该如何上传图片呢？ > >...