ffmpeg源码分析五：ffmpeg调用x264编码器的过程分析

该文将以X264编码器为例，解释说明FFMPEG是怎么调用第三方编码器来进行编码的。

全部编码器和解码器都是在avcodec_register_all()函数中注册的。从中能够找到视频的H264解码器和X264编码器：

REGISTER_DECODER(H264,              h264);

REGISTER_ENCODER(LIBX264,           libx264);

他们都是经过一下宏进行相应的注册的：

#define REGISTER_DECODER(X, x)                                          \
    {                                                                   \
        extern AVCodec ff_##x##_decoder;                                \
        if (CONFIG_##X##_DECODER)                                       \
            avcodec_register(&ff_##x##_decoder);                        \
    }

#define REGISTER_ENCODER(X, x)                                          \
    {                                                                   \
        extern AVCodec ff_##x##_encoder;                                \
        if (CONFIG_##X##_ENCODER)                                       \
            avcodec_register(&ff_##x##_encoder);                        \
    }

注 册的过程发生在avcodec_register(AVCodec *codec)函数中，实际上就是向全局链表last_avcodec中加入libx264_encoder、h264_decoder特定的编解码器， 输入参数AVCodec是一个结构体，能够理解为编解码器的基类，其中不只包含了名称，id等属性，并且包含了以下函数指针，让每一个具体的编解码器扩展类 实现。

    int (*init)(AVCodecContext *);

    int (*encode_sub)(AVCodecContext *, uint8_t *buf, int buf_size,
                      const struct AVSubtitle *sub);
    /**
     * Encode data to an AVPacket.
     *
     * @param       avctx          codec context
     * @param       avpkt          output AVPacket (may contain a user-provided buffer)
     * @param[in]  frame          AVFrame containing the raw data to be encoded
     * @param[out] got_packet_ptr encoder sets to 0 or 1 to indicate that a
     *                            non-empty packet was returned in avpkt.
     * @return  0 on success, negative error code on failure
     */
    int (*encode2)(AVCodecContext *avctx, AVPacket *avpkt, const AVFrame *frame, int *got_packet_ptr);
    int (*decode)(AVCodecContext *, void *outdata, int *outdata_size, AVPacket *avpkt);
    int (*close)(AVCodecContext *);
    /**
     * Flush buffers.
     * Will be called when seeking
     */
    void (*flush)(AVCodecContext *);

继续追踪libx264，也就是X264的静态编码库，它在FFMPEG编译的时候被引入做为H.264编码器。在libx264.c中有以下代码

AVCodec ff_libx264_encoder = {
    .name             = "libx264",
    .long_name        = NULL_IF_CONFIG_SMALL("libx264 H.264 / AVC / MPEG-4 AVC / MPEG-4 part 10"),
    .type             = AVMEDIA_TYPE_VIDEO,
    .id               = AV_CODEC_ID_H264,
    .priv_data_size   = sizeof(X264Context),
    .init             = X264_init,
    .encode2          = X264_frame,
    .close            = X264_close,
    .capabilities     = CODEC_CAP_DELAY | CODEC_CAP_AUTO_THREADS,
    .priv_class       = &x264_class,
    .defaults         = x264_defaults,
    .init_static_data = X264_init_static,
};

这里具体对来自AVCodec的属性和方法进行赋值。其中
    .init = X264_init,
    .encode2 = X264_frame,
    .close = X264_close,
将函数指针指向了具体函数，这三个函数将使用libx264静态库中提供的API，也就是X264的主要接口函数进行具体实现。

上面看到的X264Context封装了X264所须要的上下文管理数据，
typedef struct X264Context {
    AVClass        *class;
    x264_param_t    params;
    x264_t         *enc;
    x264_picture_t  pic;
    uint8_t        *sei;
    int             sei_size;
    char *preset;
    char *tune;
    char *profile;
    char *level;
    int fastfirstpass;
    char *wpredp;
    char *x264opts;
    float crf;
    float crf_max;
    int cqp;
    int aq_mode;
    float aq_strength;
    char *psy_rd;
    int psy;
    int rc_lookahead;
    int weightp;
    int weightb;
    int ssim;
    int intra_refresh;
    int bluray_compat;
    int b_bias;
    int b_pyramid;
    int mixed_refs;
    int dct8x8;
    int fast_pskip;
    int aud;
    int mbtree;
    char *deblock;
    float cplxblur;
    char *partitions;
    int direct_pred;
    int slice_max_size;
    char *stats;
    int nal_hrd;
    char *x264_params;
} X264Context;
它属于结构体AVCodecContext的void *priv_data变量，定义了每种编解码器私有的上下文属性，AVCodecContext也相似上下文基类同样。能够用类图来表示大概的编解码器组合。

编解码器打开操做是在transcode_init() -> init_input_stream() -> avcodec_open2()完成的，对具体的编解码器进行初始化。例如X264_init()

具体的编码操做是在transcode() -> transcode_step() -> reap_filters() -> do_video_out() 或 do_audio_out() -> avcodec_encode_video2() 或 avcodec_encode_audio2()。而后经过函数指针调用特定的编解码器。例如X264_frame()。

最后经过avcodec_close()关闭编解码器。例如X264_close()。