基于openvino 2019R3的推理性能优化的学习与分析 (四) 基于GPU的推理(inference)性能分析

再看看纯集成显卡GPU的mobilenet-ssd 的推理性能,  测试平台是i5 7440HQ, 4核4线程, GPU是Gen9 的GT2, 24EU, 属于纯大白菜集成显卡   首先是FP32模型 当Batch size =1时 inference request(nireq) = 1时，即同时只有一个推理请求 Latency = 13.6ms, Throughtput = 73FPS, 性能

>>阅读原文<<