KuiperInfer
KuiperInfer copied to clipboard
zjhellofss
带你从零实现一个高性能的深度学习推理库，支持大模型 llama2 、Unet、Yolov5、Resnet等模型的推理。Implement a high-performance deep learning inference library step by step
在学习KuiperInfer时发现教程代码中有这样一个检查：  请问KuiperInfer是否可以实现如split这样的算子呢 
我尝试使KuiperInfer支持yolov8，在将转换后的PNNX格式的模型文件导入时遇到问题，在读取bin文件时总是报错，在尝试获取某个filename的size时无法获得正确的大小，返回-1，（猜测是模型转换时发生错误导致bin文件不正确）请问有什么办法确定bin文件是否正确，或者有好用的模型格式转换方法吗，
下载插件： C++ TestMate  然后可以在测试面板：执行测试或者进行测试debug 
Metadata
Owner
Metadata
带你从零实现一个高性能的深度学习推理库，支持大模型 llama2 、Unet、Yolov5、Resnet等模型的推理。Implement a high-performance deep learning inference library step by step