FastDeploy

FastDeploy copied to clipboard

在CUDA 12(Windows) 上构建失败:nvcc fatal : Unsupported gpu architecture 'compute_35'

5

## 环境 - 【FastDeploy版本】：73f42e36beb959717f8a901251a12b0ff162e8d3 - 【编译命令】: ``` cmake .. -G "Visual Studio 17 2022" -A x64 -DENABLE_ORT_BACKEND=ON -DENABLE_PADDLE_BACKEND=ON -DENABLE_OPENVINO_BACKEND=ON -DENABLE_TRT_BACKEND=ON -DENABLE_VISION=ON -DENABLE_TEXT=ON -DWITH_GPU=ON -DTRT_DIRECTORY="C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\8.6.1" -DCUDA_DIRECTORY="C:\Program Files\NVIDIA...

justghostof

yolo系列多batch推理有误

2

********************************************* 温馨提示：根据社区不完全统计，按照模板提问，可以加快回复和解决问题的速度 ********************************************* ## 环境 - 【FastDeploy版本】： release-v1.0.7 - 【编译命令】: ``` cmake .. -DENABLE_ORT_BACKEND=ON \ -DENABLE_PADDLE_BACKEND=ON \ -DENABLE_OPENVINO_BACKEND=ON \ -DENABLE_TRT_BACKEND=ON \ -DWITH_GPU=ON \ -DTRT_DIRECTORY=${Path/to/TensorRT} \ -DCUDA_DIRECTORY=/usr/local/cuda \ -DCMAKE_INSTALL_PREFIX=${PWD}/compiled_fastdeploy_sdk \ -DENABLE_VISION=ON...

LorenzoSun-V

YOLO8Cls 支持不 使用 YOLOv5Cls Python 推理 YOLO8Cls模型 结果和yolov8结果不一致

monkeycc

支持yolov9不

1

请问最近有计划支持yolov9不

SonwYang

FastDeploy PPYoloE Plus 模型的前置处理实现在哪里可以查看源码

1

FastDeploy PPYoloE Plus 模型的前置处理实现在哪里可以查看源码 把这个搞明白，准备基于DJL实现Java版的模型预测

TommysLee

FastDeploy有计划推通用Java平台的SDK吗

2

- 通用Java平台SDK有计划推出吗？如有，大概什么时候？ - 现在准备用DJL暂时实现模型加载与推理，但前置处理如何做，或者说有无Python的参考示例呢？

TommysLee

paddleseg模型GPU部署推理结果有问题

1

## 环境 - 【FastDeploy版本】： 说明具体的版本，fastdeploy-linux-gpu-1.0.7 - 【编译命令】如果您是自行编译的FastDeploy，请说明您的编译方式（参数命令） - 【系统平台】: Windows x64(Windows10) - 【硬件】： 说明具体硬件型号，Nvidia GPU GeForce 940MX， CUDA 11.6 CUDNN 8.4 - 【编译语言】： C++ ## 问题日志及出现问题的操作流程 - 附上详细的问题日志有助于快速定位分析 - 【模型精度问题】...

yunwuhen

yolov8目标检测如何修改iou

1

`model.postprocessor.iuo = 0.2` AttributeError: 'fastdeploy.libs.fastdeploy_main.vision.detection.YOLOv8Postprocessor' object has no attribute 'iuo'

monkeycc

创建c#api时遇到问题

3

********************************************* 温馨提示：根据社区不完全统计，按照模板提问，可以加快回复和解决问题的速度 ********************************************* ## 环境 - 【FastDeploy版本】： fastdeploy-cpu - 【编译命令】采用官方的编译命令 -git clone https://github.com/PaddlePaddle/FastDeploy.git cd FastDeploy mkdir build && cd build cmake .. -G "Visual Studio 16 2019" -A x64 ^...

guoyunqingyue

deeplabv3p的onnx模型使用GPU+FP16推理耗时增加

2

********************************************* 温馨提示：根据社区不完全统计，按照模板提问，可以加快回复和解决问题的速度 ********************************************* ## 环境 - 【FastDeploy版本】：release 1.0.0 - 【编译命令】 - 【系统平台】: Windows x64(Windows10) - 【硬件】： Nvidia GPU 3060， CUDA 11.8 CUDNN 8.5 - 【编译语言】： C++ 【性能问题】 deeplabv3p的onnx模型使用GPU+FP16推理耗时增加，将近翻倍。

zyz207