OpenVINO2024 C++ 推理使用技巧合集

文章预览

点击上方 蓝字 关注我们 微信公众号： OpenCV学堂 关注获取更多计算机视觉与深度学习知识 前言 很多人都使用OpenVINO新版的C++ 或者Python的SDK，都觉得非常好用，OpenVINO2022之后的版本C++ SDK做了大量的优化与整理，已经是非常贴近开发的使用习惯与推理方式。与OpenCV的Mat对象对接方式更是几乎无缝对接，非常的方便好用。 导入头文件 一行代码就获取C++ SDK支持 # include 创建推理推理请求 总结起来有三种不同方式，针对单个固定输入与输出层的模型，只需要三行代码即可创建： ov::Core ie; ov::CompiledModel compiled_model = ie.compile_model(settings.getWeight_file(), "CPU"); infer_request = compiled_model.create_infer_request(); 对于支持动态输入的模型，需要首先设置支持动态输入的维度，一般都是图像宽高，加载模型，创建推理请求的方式如下： ov::Core ie; auto model = ie.read_model(settings. ………………………………