关于音视频的一些知识（demux、filter等）

MUX和DEMUX

Mux 是 Multiplex 的缩写，意为“多路传输”，其实就是“混流”、“封装”的意思，与“合成”的意思类似就是指把视频素材和音频素材封装到一个单独的文件中。

muxing 是在mux 后面加了 -ing 构成的动名词形式。
Demux是在 mux 前面加了个表示否认的 De- 前缀，意思是进行与 muxing 相反的“分解复用”操做，也就是咱们平时说的“分离”一个文件中的视频部分或是音频部分。
一样，也能够在 demux 后面加 -ing 构成动名词 demuxing。
意义：
经过 muxing（混流），能够将视频流、音频流甚至是字幕流捆绑到一个单独的文件中，做为一个信号进行传输，等传输完毕，就能够经过 demuxing（分离） 将里面的视频、音频或字幕分解出来各自进行解码和播放。
要点：

在 muxing 与 demuxing 的整个过程，都不对原来的视频、音频或字幕从新编码。混流（封装、打包）后的文件，能够经过分离（分解、解包）操做，得到与原始素材如出一辙的独立的视频、音频和字幕文件。

视频的分离与合成，编码和解码

对媒体流的处理分为两种：“编码（encoding）”和“解码（decoding）”。编码指的是经过必定协议或规则把一段声音或图像转化成计算机数字文件的过程。而解码偏偏是编码的反面——把编码过的媒体文件从新转化成声音或图像。

用来执行编码工做的软件叫“编码器”（Coder 或 Encoder）;
用来执行解码工做的软件叫“解码器”（Decoder）
“编码器”与“解码器”合称“编解码器”（“Codec”）。

声音与图像是两种不一样的媒体，它们分别对应人的两种不一样感官。做为不一样的媒体，咱们只能用专门针对声音的软件或是专门针对视频的软件去分别分析处理音频流（Audio Stream）与视频流（Video Stream）。

用来编码音频流的软件叫做“音频编码器”（Audio Encoder）
用来编码视频流的软件叫做“视频编码器”（Video Encoder）

用来解码音频流的软件叫做“音频解码器”（Audio Decoder）
用来解码视频流的软件叫做“视频解码器”（Video Decoder）

音频流与视频流的处理必须分别进行，即：
“音频编码器”编码出单个音频文件，
“视频编码器”编码出单个视频文件，
“音频解码器”单独对音频文件进行解码还原，
“视频解码器”单独对视频文件进行解码还原。

既然音频处理和视频处理必须单独运行，那为何咱们平时看的RMVB、AVI格式的电影都是既包含声音又包含图像的单个文件呢？那是由于咱们在经过摄像机得到单独的音频流和视频流后不只对它们进行了“编码”，还对它们进行了“合成”（Synthesis）。经过合成，音频与视频就打包到一块儿，生成一个单独的文件。能够说，全部既有声音又有图像的视频文件，100%都是经过某种合成器（Synthesizer）合成过的。（注意：“合成”与“合并”不一样，见最后的参考帖子。）

然而必须知道的是：尽管经过合成器能够把音频流和视频流打包成一个文件，可是正如人的眼睛不可能听、人的耳朵不可能看，音频流和视频流是不可能彻底地混杂到一块儿的，是注定“分离”的。所以，所谓“合成”，只是把音频流和视频流用一个容器文件（Container）封装起来，其实里面仍是各自独立的。咱们在播放视频文件的时候老是先调用分离器（Splitter），将封装合成的视频“分离”成独立的音频和视频码流，而后才调用解码器对这些独立的音频流和视频流进行解码输出。

举个例子应该比较好懂一些：

好比咱们有一个音频文件 Sample.mp2 和一个视频文件 Sample.m1v，用编码软件如小日本4经过 MPEG-1 编码方式合成为一个独立文件 Sample.mpg，而后把这个.mpg文件拿到媒体播放器里面播放，直接就能够听到声音看到画面。表面上看播放器只是简单地“播放”了这个文件，实际上这个“播放”包含了更多咱们看不到的步骤。这个步骤是这样的：

• 播放器打开视频源文件
• 播放器调用分离器将视频文件分解为单独的音频流和视频流
• 播放器调用音频解码器对音频流进行解码，同时调用视频解码器对视频流进行解码
• 播放器依据一样的时间线将解码后的音频流和视频流输出到播放窗口并使之保持同步。

咱们常常听到滤镜（Filter）的名称，实际上就是指的各类分离器或解码器。

Filter（滤镜）

什么是HDTV”中已经描述了HDTV的几个要素，相应地，要播放HDTV，就首先要正确地解开封装，而后进行视频音频解码。因此咱们须要分离器，视频解码器和音频解码器，俗称HDTV的“三件套”，又统称滤镜。

1、分离器：
要正确地播放多媒体文件，首先是正确地调用分离器，把视频轨和音频轨分离出来。分离器相应分为三大类。
一、MPEG2 TS分离器:
月光（全称Moonlight-Elecard MPEG2 Demultiplexer），兼容性很是好，是首选的MPEG2分离器。
Gabest（就是Mpeg Splitter），MPC的做者Gabest编写的分离器。
NVIDIA Transport Demux（nVidia自家的分离器），是PureVideo家族成员之一，只能配合自家族的视频音频解码器，配合N卡比较好。
二、H264的分离器:
常见的有Gabest MP4分离器，就是MP4splitter，也是Gabest编写的，Halli的分离器和NDigital分离器等。
三、HD-WMV的分离器:
微软封闭技术，WMP9以上都自带了，XP用户都不须要装。

2、视频解码器
各大公司不断研发新版本，提高画质，改善兼容性，增强显卡硬件加速做用。
一、MPEG2视频解码器:
winDVD的视频解码器InterVideo Video Decoder。
PowerDVD的MPEG2视频解码器，有CyberLink DTV Video/SP Filter和CyberLink Video/SP Filter
月光视频解码器，Moonlight-Elecard MPEG2 Video Decoder为3.X版本和4.0X版本，名为Elecard MPEG-2 Video Decoder。
低端电脑推荐使用Sonic CinemasterVideo，画质通常，强项是能打开硬件加速。
PureVideo家族中的MPEG2视频解码器NVIDIA Video Decoder，只能用于N卡六、7系列的显卡上。
Dscaler5以上所说的PowerDVD、WinDVD、月光、Sonic等的视频解码器均可以打开显卡硬件加速，下降CPU的负担。
二、H264的视频解码器：
CoreAVC的H264视频解码器CoreAVC DirectShow Video Decoder。
月光的H264解码器，全称为Moonlight H264 Video Decoder，ffdshow的解码器，全称为ffdshow MPEG-4 Video Decoder，能打开N卡显卡硬件加速的CyberLink H.264/AVC Decoder(PDVD7)。
三、HD-WMV
只能用上微软自家的解码器，N卡六、7系以上能打开加速。
HDTV视频解码cpu占用很高，目前最强的cpu也难以完成，并且cpu做为通用处理器，用于视频解码则效率很低，因此HDTV播放的关键是显示卡的解码加速。视频解码器可否支持显示卡硬件加速，是可否播放HDTV的关键。

3、音频解码器：
ffdsshow，月光音频解码器、WinDVD的音频解码器、PowerDVD的音频解码器、AC3Filter音频解码器。
若是播放HDTV时碰到有声无画或者有画无声，就应该本身从解码器着手，替换一个试试。