DefTruth
DefTruth
另外可以关注我们的[PaddlePaddle/FastDeploy](https://github.com/PaddlePaddle/FastDeploy) , 应该很快会发新的版本 ## 重要通知 (Important Note) !!! 🔥🔥🔥 中文简体:本项目将不再频繁更新,更优的部署体验请尝试[⚡️PaddlePaddle/FastDeploy](https://github.com/PaddlePaddle/FastDeploy) : ⚡️一款简单易用的推理部署工具箱。覆盖业界主流优质预训练模型并提供开箱即用的开发体验,包括图像分类、目标检测、图像分割、人脸检测、人体关键点识别、文字识别等多任务,满足开发者多场景,多硬件、多平台的快速部署需求,并同时支持 **C++** 和 **Python** 两种语言。**lite.ai.toolkit** 中的核心模型未来将会以contrib的方式集成到[⚡️PaddlePaddle/FastDeploy](https://github.com/PaddlePaddle/FastDeploy) 中。欢迎同学们使用 ✋👉[⚡️PaddlePaddle/FastDeploy](https://github.com/PaddlePaddle/FastDeploy). ---- English: This project will no longer be updated frequently. For...
已经在 [⚡️PaddlePaddle/FastDeploy](https://github.com/PaddlePaddle/FastDeploy) , 里面提供了yolov7的推理支持
这个repo暂时没有计划。另外可以关注我们的[PaddlePaddle/FastDeploy](https://github.com/PaddlePaddle/FastDeploy) , 应该很快会发新的版本 ## 重要通知 (Important Note) !!! 🔥🔥🔥 中文简体:本项目将不再频繁更新,更优的部署体验请尝试[⚡️PaddlePaddle/FastDeploy](https://github.com/PaddlePaddle/FastDeploy) : ⚡️一款简单易用的推理部署工具箱。覆盖业界主流优质预训练模型并提供开箱即用的开发体验,包括图像分类、目标检测、图像分割、人脸检测、人体关键点识别、文字识别等多任务,满足开发者多场景,多硬件、多平台的快速部署需求,并同时支持 **C++** 和 **Python** 两种语言。**lite.ai.toolkit** 中的核心模型未来将会以contrib的方式集成到[⚡️PaddlePaddle/FastDeploy](https://github.com/PaddlePaddle/FastDeploy) 中。欢迎同学们使用 ✋👉[⚡️PaddlePaddle/FastDeploy](https://github.com/PaddlePaddle/FastDeploy). ---- English: This project will no longer be updated frequently. For...
cache反序列化问题已经修复。另外经排查,用户的测试代码中指针的用法会导致无法预测,需要进行修改。 ```C++ #include "fastdeploy/vision.h" void TrtInfer(const std::string& model_file, const std::string& image_file) { struct fastdeploy::RuntimeOption roi_option; fastdeploy::vision::detection::YOLOv7End2EndTRT* model; roi_option.UseGpu(); roi_option.UseTrtBackend(); roi_option.SetTrtInputShape("images", { 1, 3, 640, 640 }); roi_option.EnableTrtFP16(); roi_option.SetTrtCacheFile("yolo_end2end.cache"); // model...
感谢您的反馈,我们会继续跟进这个问题~
onnxruntime.dll,paddle2onnx.dll这些也是你们本地编译的吗?还是说是在编fastdeploy的时候随着download的?
应该是的,部署环境的CUDA版本是需要和您编译时的保持一致的。
@l7518597 您好,源码编译可以查看这里的编译文档:https://github.com/PaddlePaddle/FastDeploy/tree/develop/docs/compile
* [Linux和Mac下源码编译](https://github.com/PaddlePaddle/FastDeploy/blob/develop/docs/compile/how_to_build_linux_and_mac.md) * [Windows下源码编译](https://github.com/PaddlePaddle/FastDeploy/blob/develop/docs/compile/how_to_build_windows.md)
@l7518597 C++目前已经提供了编译好的库可以使用,一般情况下不需要从源码编译,可以从这里下载预编译库。 * [FastDeploy C++ 预编译库](https://github.com/PaddlePaddle/FastDeploy/blob/develop/docs/quick_start/CPP_prebuilt_libraries.md)