本文介绍一个自己做的码流分析软件:VideoEye。为什么要起这个名字呢?感觉这个软件的主要功能就是对“视频”进行“分析”。而分析是要用眼睛来看的,因此取了“视频”和“分析”这两个词的英文,名之曰:VideoEye。这个软件是在自己毕业设计软件的基础上改的。可以对本地文件或者互联网视频流进行实时的码流分析。由于这个软件是自己一边学习视音频技术一边制作的,所以涵盖了比较全面的功能。在编写这个软件的过程中,自己也学会了很多的视音频编解码方面的知识,以及MFC的知识。后来想想,与其自己保存在电脑里,不如开源出来与大家分享,也许能帮助正在学习视音频技术的人学习这方面的知识。软件源代码中有大量的注释,都是自己边学边记的笔记,十分方便理解和学习有关的知识。
开发环境为VC2010,软件界面使用以下类库:
界面:MFC
视音频编解码类库:FFMPEG
视频非压缩域数据分析:OpenCV
播放列表解析/导出:TinyXML
视音频播放:SDL
目前还在完善过程中,估计还要不少的修改。
项目主页
SourceForge:
https://sourceforge.net/projects/videoeye/Github:
https://github.com/leixiaohua1020/VideoEye开源中国:
http://git.oschina.net/leixiaohua1020/VideoEye0.1测试版=================================
CSDN源代码下载
http://download.csdn.net/detail/leixiaohua1020/7552669CSDN编译好的可执行程序下载(目前只在本机上测过)
http://download.csdn.net/detail/leixiaohua1020/7552687注:晕了,上面2个上传至CSDN的文件都缺失了3个OpenCV的Dll,编译或者运行的时候会提示找不到Dll。由于CSDN上传的资源没有提供删除功能,只能再上传一个压缩包补齐相关的Dll。下面的Dll和其他Dll放到一起就可以了:
http://download.csdn.net/detail/leixiaohua1020/75550630.2测试版(2014.7.12)======================
相比于0.1测试版,做了以下几个部分的完善:
* 源代码添加了对Unicode的支持
* 添加了两个宏定义"INT64_MIN INT64_MAX",在没有安装 Win7SDK的情况下,可能会出现找不到定义的情况。
* 改变了“收藏夹”的外观,修改了其展现视频地址的树形结构,使其美观一些。
* “单帧详细分析”界面增加了数据输出功能。可以将一帧视频码流的量化参数(Quantization Parameter),宏块类型(MacroBlock Type),运动矢量(Motion Vector),参考帧(Reference Frame)列表输出出来并存储为“.csv”格式的文件。
* 修正了“单帧详细分析”中运动矢量分析功能在分析MPEG4视频码流时候的一个BUG。
* 修正了“视频播放窗口”调整窗口大小的时候,会残留视频帧画面的BUG。
SourceForge上已经更新至0.2版。
CSDN源代码下载
http://download.csdn.net/detail/leixiaohua1020/7624137CSDN编译好的可执行程序下载
http://download.csdn.net/detail/leixiaohua1020/7624119PUDN源代码
http://www.pudn.com/downloads644/sourcecode/multimedia/detail2605176.html注:需要VC2010的运行环境。如果出现找不到msvcp100.dll等文件的话,可以选择以下之一:
1.安装
Microsoft Visual C++ 2010 Redistributable Package 2.下载压缩包“
VC2010编译的MFC程序需要的dll”,并且将里面的Dll拷贝到程序的目录中
下面将自己总结的软件的文档贴出来。
1 简述
VideoEye是一个开源的视频分析的软件。本软件可以播放和分析视频数据。它支持多种视频流输入方式:HTTP,RTMP,RTSP以及文件等等。该软件可以实时分析视频流并能以图形化的方式呈现其分析结果。目前该软件还处于完善阶段。
1.1 视频播放
视频播放是本软件最基本的功能。
1.2 压缩域码流分析
压缩域码流分析主要用于分析视频和音频压缩码流的参数。
1.3 非压缩域数据分析
非压缩域数据分析主要用于分析视频解码后的像素数据。
2 主界面
本章简单介绍系统主界面的操作和使用。
软件运行后欢迎画面如图所示:
图2-1.欢迎画面
进入主界面以后,如下图所示。
图2-2.主界面
如果想让系统开始运行的话,首先需要选择一个视频(音频)文件。将视频所在的URL粘贴到“输入路径”里面即可。
注1:还可以通过以下几种方式添加输入路径
1. 单击“文件”,打开文件对话框,选择一个视频文件
2. 拖拽一个视频文件到主界面
3. 单击“收藏夹”,打开收藏夹列表,选择一个视频的URL
注2:本系统不但支持本地文件的分析,也支持网络流的分析。
在这里我们选择一个视频文件,URL是“F:\movie\cuc_ieschool.flv”。
单击位于主界面左下角的“播放”大按钮(一个圆圈里面有一个三角形),即可让系统开始运行。系统运行后的截图如下图所示。
图2-3.主界面(播放中)
由图可见,在“输入参数”部分,系统解析出了输入协议类型为file,封装格式为FLV。比特率是394.94kbps,时长是34s。 “视频”部分,系统解析出了输出像素格式为YUV420P,视频编码方式为H.264,帧率为15fps,画面大小为512x288。“音频”部分,系统解析出了采样率为44100Hz,音频编码方式为MP3,声道数为2。
单击主界面下方的“播放控制”面板上的按钮,可以控制视频的播放。具体的功能包含快退,暂停,快进,停止,逐帧播放,全屏播放。拖动视频播放的进度条,则可以控制视频播放的进度(对于直播信号,是不能调整播放进度的)。
系统开始运行之后,会弹出视频播放窗口。该窗口类似于视频播放器,可以显示解码后的视频数据,并播放音频数据。
图2-4.播放窗口
3 播放
本章主要介绍和视频播放相关的功能。播放是本系统最基本的功能。系统其它功能都是建立在播放的基础之上的。
3.1 视频URL
如果想让系统开始播放的话,首先需要选择一个视频(音频)文件。将视频所在的URL粘贴到“输入路径”里面即可。
注1:还可以通过以下几种方式添加输入路径
1. 单击“文件”,打开文件对话框,选择一个视频文件
2. 拖拽一个视频文件到主界面
3. 单击“收藏夹”,打开收藏夹列表,选择一个视频的URL
4. 单击“地址解析”,可以使用网络上现有的地址解析引擎,解析得到像优酷,土豆,乐视这些网站上视频的URL。
注2:本系统不但支持本地文件的分析,也支持网络流的分析。
3.2 收藏夹
收藏夹功能目前还处于调整中。支持导入m3u格式的播放列表,以及XSPF格式的播放列表。双击收藏夹中的条目,可以将该条目对应的地址传给主界面的“输入路径”。
图3-1.播放列表对话框
3.3 播放控制
在“输入路径”里添加视频的URL之后,单击系统左下角的“播放”大按钮(一个圆圈里面有一个三角形),就可以开始播放了。
在“播放”按钮的旁边,排列着其它控制播放的按钮。依次是:“后退”,“暂停”,“前进”,“停止”,“逐帧播放”,“全屏”。通过这些按钮,基本上可以完成对播放的各种控制。此外,在这些按钮的上方,还有一个播放的进度条。可以通过拖拽进度条的方式,调整视频播放的进度。
在系统的右下角,有一个按钮:“关于”。
图3-2.播放控制按钮
3.4 播放设置
选择菜单的“播放”->“播放器首选项”。打开播放设置对话框如图所示。
注:此处的设置只有在下一次视频播放开始后才会生效。
图3-3.播放器首选项对话框
3.5 播放画面
选择菜单的“视频”->“大小”。可以调整视频播放窗口的大小。
选择菜单的“视频”->“纵横比”。可以调整视频播放窗口的纵横比。
选择菜单的“视频画面”,可以调整视频播放窗口显示的内容,有以下3种:
* 视频画面
* 音频波形图
* 音频离散傅里叶变换图
3.6 数据输出
选择菜单的“数据”。可以输出视频播放过程中的中间数据。该选项卡可以用于输出视音频码流数据,视频解码后的像素数据,或者音频解码后的采样数据。数据输出选项卡如下图所示。
注:特殊容器(mp4,mkv等)封装的H.264直接输出的话,会缺少SPS和PPS,因而导致码流无法被识别。为此专门添加了特殊容器输出H.264的选项。
图3-4.数据输出对话框
4 视频分析
本章主要介绍和视频分析相关的功能。
4.1 视频解码分析
在视频播放的过程中,单击主界面视频部分编码参数部分的按钮“视频解码分析”,打开视频解码分析对话框,如图4-1所示。
对话框中包含了一个帧列表。每个帧对应列表中的一条记录。不同类型的帧有着不同的背景色。列表显示了以下信息:
* 帧数
* 帧类型
* 关键帧
* 码流顺序
* PTS
图4-1.视频解码分析对话框
4.2 视频帧解码分析
在视频播放的过程中,单击主界面视频部分编码参数部分的按钮“单帧详细分析”,打开视频帧解码分析对话框,如图4-2所示。
该部分主要用于对当前播放的视频帧进行详细的分析。可以列表显示视频一帧的详细参数,包括:
* 帧数
* 帧类型
* PTS
* 显示时间
* 参考帧数量
并可以对视频进行宏块级的分析,包含以下几种参数的分析:
* 量化参数分析
* 宏块类型分析
* 运动矢量list[0]分析
* 运动矢量list[1]分析
* 参考帧list[0]分析
* 参考帧list[1]分析
对话框上方的下拉框用于设置希望分析的内容。对话框左边的“选项”部分可以设置分析结果的属性。具体包含以下几项:
表4-1.视频帧详细分析选项
通用选项
显示宏块边界
显示视频帧中宏块的边界。
字体
设置分析结果中文字的字体。
量化分析
显示QP值
显示宏块的QP值。
显示背景颜色
根据QP值的不同,不同宏块显示不同灰度的背景颜色。
宏块类型分析
显示子宏块
显示子宏块的划分方式。
显示背景颜色
根据划分方式的不同,不同宏块显示不同的背景颜色。
显示跳过宏块
在跳过宏块的上方标记以“s”。
显示参考列表
在使用参考帧的宏块上标记List0和List1。
运动矢量[0]分析
颜色
显示的运动矢量[0]颜色。
样式
运动矢量[0]外观。
运动矢量[1]分析
颜色
显示的运动矢量[1]颜色。
样式
运动矢量[1]外观。
对话框中间的“宏块类型”部分包含了各种类型的宏块的数量的统计信息。例如帧内4x4,帧内16x16,16x16,16x8,8x16,8x8等类型的宏块的个数。以及每行宏块数,宏块行数,总计宏块数,每个宏块包含的运动矢量个数等信息。
对话框右边上方的“帧参数”部分包含了该视频帧的一些其他信息。例如帧数,帧类型,大小,PTS,显示时间,参考帧数量等信息。
对话框右边下方的“量化”部分包含了QP的统计信息。包括QP的最大值,最小值以及平均值。
此外,如果勾选了“随播放自动分析”选项,可以随着系统对视频的解码播放,实时的分析视频的码流参数。
图4-2.视频帧解码分析对话框
量化参数分析结果如图所示。视频帧被划分成以宏块为单位的网格状。图中每个小方块代表视频码流中的一个宏块。其中的数字代表了该宏块的量化参数。为了使分析结果更加直观,每个宏块被标记以不同灰度的背景色,如图4-3(a)所示。量化系数越大,相应的背景色的灰度越浅。此外,也可以以视频帧的内容为背景显示分析结果,如图4-3(b)所示。也可以去掉量化系数的显示,如图4-3(c)所示。
(a) 背景为灰度图,前景为量化参数
(b) 背景为帧内容,前景为量化参数
(c) 背景为灰度,前景不包含数字
图4-3.量化参数分析结果
宏块类型分析的结果如图4-4所示。视频帧同样被划分成以宏块为单位的网格状。根据子宏块划分方式的不同(16x16,16x8,8x16,8x8,4x4),这些宏块被划分成了不同样式。不同的宏块可以被标记以不同的背景颜色,如图4-4(a)所示。此外,如果该宏块属于跳过宏块,还可以在宏块上面标记以“s”字样。此外,也可以以视频帧的内容为背景显示分析结果,如图4-4(b)所示。
(a) 背景为纯色图,前景为宏块类型
(b) 背景为帧内容,前景为宏块划分方式
图4-4.宏块类型分析结果
运动矢量分析的结果如图4-5所示。运动矢量分为List0和List1两种。由图可见,运动较剧烈的地方,包含了较多的长度较长的运动矢量。画面相对静止的地方,运动矢量的长度相对比较短甚至取值为0。
(a) List0
(b) List1
图4-5. 运动矢量分析结果
参考帧的分析结果如图4-6所示。参考帧分为List0和List1两种。由图可见,不同的宏块参考了不同的视频帧作为其参考帧。
(a) List0
(b) List1
图4-6. 参考帧分析结果
4.3 视频非压缩域分析
在视频播放的过程中,单击主界面视频参数部分的按钮“非压缩域数据分析”,打开非压缩域数据分析对话框,如图4-7所示。由图可见,可以从“分析方法”里面选择想要分析的内容,包含了颜色直方图,Canny边缘检测,轮廓检测,离散傅里叶变换,人脸识别。此外,还可以查看视频的R,G,B分量以及Y,U,V分量。如果勾选了“随着播放自动分析” 选项的话,可以随着系统对视频的解码播放,实时的分析视频的非压缩域数据。
图4-7.非压缩域分析
颜色直方图的分析结果如图4-8所示。由图可见,颜色直方图列出了不同色彩在整幅视频帧中所占的比例。对于该视频帧来说,红色和黄色分量取值较大,代表该种色彩所占比重较大。
图4-8.颜色直方图
边缘检测的分析结果如图4-9所示。通过该分析功能可以获得视频帧的边缘信息。
图4-9.边缘检测
轮廓检测的结果如图4-10所示。通过该分析功能可以获得视频帧的轮廓信息。
图4-10.轮廓检测
离散傅里叶变换的分析结果如图4-11所示。左边的图像为相位谱,中间的图像为亮度图,右边的图像为幅度谱。
图4-11.离散傅里叶变换
人脸识别的分析结果如图4-12所示。通过该功能可以分析出视频帧中的人脸信息。
图4-12.人脸识别
R,G,B分量的分析结果如图4-13所示。由图可以查看R,G,B三个分量的取值情况。
图4-13. R(左上),G(右上),B(下)分量
Y,U,V分量的分析结果如图4-14所示。由于Y:U:V取样格式是4:2:0的,所以U,V分量的分辨率是Y分量的一半。
图4-14. Y(左上),U(右上),V(下)分量
5 音频分析
本章主要介绍和音频分析相关的功能。
5.1 音频解码分析
在视频播放的过程中,单击主界面音频编码参数部分的按钮“音频解码分析”,打开音频解码分析对话框,如图5-1所示。
对话框左边是解码状态表,表中显示了音频码流的情况。每个音频帧对应一个柱状图。横坐标对应音频帧序号,纵坐标对应音频帧大小。
对话框右边对应的是帧列表。列表显示了以下信息:
* 帧数
* 帧大小
* PTS
* DTS
图5-1. 音频解码分析
6 其他功能
本章主要介绍系统的一些其它的功能。
6.1 多国语言的支持
本软件目前支持简体中文和英文两种界面。英文界面示例如图6-1, 图6-2, 图6-3, 图6-4所示。
图6-1. 主界面(英文)
图6-2. 视频解码分析(英文)
图6-3.视频帧解码分析(英文)
图6-4.视频非压缩域分析(英文)
6.2 专用分析工具
专用分析工具还未加入。
6.3 辅助工具
目前支持的辅助工具是MediaInfo,用于查看视频信息,如图6-5所示。
图6-5.MediaInfo界面