Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

c++版本的推理结果与python版本的推理结果不符 #544

Open
cerasumat opened this issue Dec 6, 2024 · 6 comments
Open

c++版本的推理结果与python版本的推理结果不符 #544

cerasumat opened this issue Dec 6, 2024 · 6 comments

Comments

@cerasumat
Copy link

cerasumat commented Dec 6, 2024

使用2.6/3.0版本的paddle inference预编译库,官方yolov8预训练模型,对示例图片进行推理,输出的bbox总是有很多不正常的结果(均出现在左下角,面积很小但置信度很高),如下贴图。
该问题与模型无关,我使用自己训练的模型(python推理没这个问题),对其它图片预测,也是在左下角区域出现很多错误的置信度极高的bbox。
请问可能是什么原因导致?
错误的bbox截图如下:
image
image

复现环境 Environment

OS:Ubuntu22.04
PaddleInference: 2.6.1/3.0
GCC: 11
OpenCV: 4
    CPU推理,开了mklnn

补充下,不是绘图的问题。
在Predict方法里,从predictor_->Run();预测之后,开始postprocess,在如下计算rect坐标前数据就已经不对了。
image

@vivienfanghuagood
Copy link
Collaborator

你好,能否把模型和验证的代码脚本打包上传,我们做一下验证。

@cerasumat
Copy link
Author

paddle_test.zip

感谢,以上是测试代码,因为附件限制25MB,我不能传.pdmodel跟.pdparams上来,实际上我用的就是paddle detection项目里的yolov8预训练通用模型,放在model文件夹下的。

其次,paddle_reference我也没有上传,就直接用的预编译版本,2.6跟3.0Beta都试过,一样的问题。

其次就是这个问题我用我自己的模型、预训练通用模型都稳定复现,均是在图像左下角出现大量的高置信度小目标。但用python来跑就没这个问题。

其它的代码跟cmakelists都已上传,感谢。

@cerasumat
Copy link
Author

@vivienfanghuagood 您好,请问这个问题有解决思路吗?

@vivienfanghuagood
Copy link
Collaborator

收到,我们复现一下

@vivienfanghuagood
Copy link
Collaborator

你好,我看了压缩文件, 因为缺少pdmodel模型文件,我无法复现这个C++程序. 但是从你的代码看, 整个程序包含了预处理和模型推理部分. 如果和python推理不一致, 建议先从预处理的结果看是否python的预处理输出和c++的预处理结果一致? 例如代码的这个部分: paddle_test/src/paddle_detector.cpp#L380 可以打印一下相关的结果看是否符合预期.

@cerasumat
Copy link
Author

@vivienfanghuagood 感谢,paddle_test/src/paddle_detector.cpp#L380 这里是前处理的结果,我看了下是按照官方示例的前处理过程进行,包含如下过程:
image

此外,由于github无法上传太大的文件,我已经将模型及配置文件上传至百度网盘,请参见如下链接,非常非常感谢:

链接:https://pan.baidu.com/s/18sWyJgJzIjp8nutSGn0uhQ?pwd=1234
提取码:1234

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants