视频截帧+光流 基于CUDA9+OpenCV3

在计算机视觉领域中，视频算法是重要的一个部分，不一样于图像，视频须要含有时序特征的多帧图像，同时，还包括必定的运动信息，如光流。在预处理时，须要将视频中的图像和光流提取出来，开源工程dense_flow已经实现这个功能，支持GPU操做。

在CUDA 9和OpenCV 3中，配置dense_flow工程，高级版本temporal-segment-networks。同时，推荐视频的Benchmark工程mmaction。

参考：

dense_flow: https://github.com/yjxiong/dense_flow
temporal-segment-networks: https://github.com/yjxiong/temporal-segment-networks
mmaction: https://github.com/open-mmlab/mmaction
复制代码

---

编译OpenCV

OpenCV的编译步骤以下：

1. 下载opencv，下载opencv_contrib；
2. 修改2个cmake文件，和1个hpp文件；
3. 修改hdf五、ffmpeg、nonfree(可选)；
4. make，安装opencv；

OpenCV 3

CUDA 9不支持OpenCV2.x，只能选用3.x，如3.1.0，参考

OpenCV源码

下载OpenCV源码文件，并解压：

wget https://github.com/opencv/opencv/archive/3.1.0.zip

unzip 3.1.0.zip

cd opencv-3.1.0
复制代码

opencv_contrib

在opencv-3.1.0中，下载opencv_contrib文件，并解压：

wget https://github.com/opencv/opencv_contrib/archive/3.1.0.zip

unzip 3.1.0.zip
复制代码

位置以下：

缘由是，SURF或SIFT算法移入opencv_contrib，须要参于源码编译，在dense_flow中，调用SURF算法，不然没法找到SURF，参考。

Error：

undefined reference to `cv::xfeatures2d::SURF::create(double, int, int, bool, bool)'
复制代码

修改cmake文件

CMake Error：

CMake Error: The following variables are used in this project, but they are set to NOTFOUND.
Please set them or make sure they are set and tested correctly in the CMake files:
CUDA_nppi_LIBRARY (ADVANCED)
复制代码

缘由是，nppi已经废弃，须要替换其余的CUDA，同时，CUDA 2.0已经不兼容当前版本，须要删除。

须要修改cmake文件夹下的FindCUDA.cmake和OpenCVDetectCUDA.cmake，还有修改common.hpp。

修改FindCUDA.cmake文件，3处替换：

替换

find_cuda_helper_libs(nppi)
复制代码

为

find_cuda_helper_libs(nppial)
  find_cuda_helper_libs(nppicc)
  find_cuda_helper_libs(nppicom)
  find_cuda_helper_libs(nppidei)
  find_cuda_helper_libs(nppif)
  find_cuda_helper_libs(nppig)
  find_cuda_helper_libs(nppim)
  find_cuda_helper_libs(nppist)
  find_cuda_helper_libs(nppisu)
  find_cuda_helper_libs(nppitc)
复制代码

替换

set(CUDA_npp_LIBRARY "${CUDA_nppc_LIBRARY};${CUDA_nppi_LIBRARY};${CUDA_npps_LIBRARY}")
复制代码

为

set(CUDA_npp_LIBRARY "${CUDA_nppc_LIBRARY};${CUDA_nppial_LIBRARY};${CUDA_nppicc_LIBRARY};${CUDA_nppicom_LIBRARY};${CUDA_nppidei_LIBRARY};${CUDA_nppif_LIBRARY};${CUDA_nppig_LIBRARY};${CUDA_nppim_LIBRARY};${CUDA_nppist_LIBRARY};${CUDA_nppisu_LIBRARY};${CUDA_nppitc_LIBRARY};${CUDA_npps_LIBRARY}")
复制代码

替换

unset(CUDA_nppi_LIBRARY CACHE)
复制代码

为

unset(CUDA_nppial_LIBRARY CACHE)
  unset(CUDA_nppicc_LIBRARY CACHE)
  unset(CUDA_nppicom_LIBRARY CACHE)
  unset(CUDA_nppidei_LIBRARY CACHE)
  unset(CUDA_nppif_LIBRARY CACHE)
  unset(CUDA_nppig_LIBRARY CACHE)
  unset(CUDA_nppim_LIBRARY CACHE)
  unset(CUDA_nppist_LIBRARY CACHE)
  unset(CUDA_nppisu_LIBRARY CACHE)
  unset(CUDA_nppitc_LIBRARY CACHE)
复制代码

修改OpenCVDetectCUDA.cmake文件，2处删除：

将"Fermi"注释，将"Kepler"提早，即删除"Fermi"的if分支，主要是为了删除CUDA的2.0版本兼容。

set(__cuda_arch_ptx "")
  if(CUDA_GENERATION STREQUAL "Fermi")
    set(__cuda_arch_bin "2.0")
  elseif(CUDA_GENERATION STREQUAL "Kepler")
    set(__cuda_arch_bin "3.0 3.5 3.7")
复制代码

修改成

set(__cuda_arch_ptx "")
  if(CUDA_GENERATION STREQUAL "Kepler")
    set(__cuda_arch_bin "3.0 3.5 3.7")
复制代码

在CUDA版本大于6.5时，删除2.0版本的兼容，修改完成以下：

elseif(${CUDA_VERSION} VERSION_GREATER "6.5")
        set(__cuda_arch_bin "3.0 3.5")
复制代码

在opencv-3.1.0/modules/cudev/include/opencv2/cudev/common.hpp的头文件中，添加：

#include <cuda_fp16.h>
复制代码

参考

hdf5 error

Error:

hdf5.hpp:40:18: fatal error: hdf5.h: No such file or directory
复制代码

修改opencv-3.1.0/modules/python/common.cmake文件，在文件头部中，添加

find_package(HDF5)
include_directories(${HDF5_INCLUDE_DIRS})
复制代码

参考

nonfree error

Error:

fatal error: opencv2/nonfree/nonfree.hpp: No such file or directory
复制代码

安装包libopencv-nonfree-dev：

sudo apt-get update
sudo add-apt-repository --yes ppa:xqms/opencv-nonfree
sudo apt-get update
sudo apt-get install libopencv-nonfree-dev
复制代码

若是不成功，更换ppa的源：

sudo add-apt-repository --remove ppa:xqms/opencv-nonfree
sudo add-apt-repository --yes ppa:jeff250/opencv
sudo apt-get update
sudo apt-get install libopencv-dev
sudo apt-get install libopencv-nonfree-dev
复制代码

参考、参考

ffmpeg error

Error:

c->flags |= CODEC_FLAG_GLOBAL_HEADER
复制代码

在opencv-3.1.0/modules/videoio/src/cap_ffmpeg_impl.hpp中，添加：

#define AV_CODEC_FLAG_GLOBAL_HEADER (1 << 22)
#define CODEC_FLAG_GLOBAL_HEADER AV_CODEC_FLAG_GLOBAL_HEADER
#define AVFMT_RAWPICTURE 0x0020
复制代码

参考

make

执行make操做，在OPENCV_EXTRA_MODULES_PATH中，须要引入opencv_contrib：

make -D CMAKE_BUILD_TYPE=RELEASE -D CMAKE_INSTALL_PREFIX=/usr/local -D OPENCV_EXTRA_MODULES_PATH=/data1/wcl/workspace/opencv-3.1.0/opencv_contrib-3.1.0/modules/ ..
复制代码

执行make，32进程：

make -j32  
复制代码

安装，而且将opencv导入系统环境。

sudo make install  
sudo /bin/bash -c 'echo "/usr/local/lib" > /etc/ld.so.conf.d/opencv.conf'
sudo ldconfig
复制代码

---

编译DenseFlow

参考

安装libzip-dev

apt-get install libzip-dev
复制代码

下载dense_flow工程，切换OpenCV的3.1分支：

git clone --recursive http://github.com/yjxiong/dense_flow
git checkout remotes/origin/opencv-3.1
复制代码

指定OpenCV_DIR，编译工程：

mkdir build && cd build
OpenCV_DIR=/opencv-3.1.0/build cmake .. -DCUDA_USE_STATIC_CUDA_RUNTIME=OFF
make -j32
复制代码

编译成功以后，在build文件夹中：

1. 869956383.mp4为测试视频，创建tmp文件夹。
2. 执行命令，注意空格所有替换为“=”，参考和参考。
3. 在tmp文件夹中，生成视频帧以image前缀，x轴光流以flow_x前缀，y轴光流以flow_y前缀，其他参数参考。

./extract_gpu -f=980044841.mp4 -x=./tmp/flow_x -y=./tmp/flow_y -i=./tmp/image -b=20 -t=1 -d=0 -s=1 -o=dir
复制代码

Error，提示没法打开视频，将空格替换为“=”便可。

FATAL [default] Check failed: [video_stream.isOpened()]
复制代码

测试视频：

输出结果：

GPU使用状况

---

OK, that's all! Enjoy it!