音视频处理之FFmpeg+SDL视频播放器

一、FFmpeg视频解码器

1.视频解码知识

1).纯净的视频解码流程

压缩编码数据->像素数据。

例如解码H.264，就是“H.264码流->YUV”。

2).一般的视频解码流程

视频码流一般存储在一定的封装格式（例如MP4、AVI等）中。封装格式中通常还包含音频码流等内容。

对于封装格式中的视频，需要先从封装格式中提取中视频码流，然后再进行解码。

例如解码MKV格式的视频文件，就是“MKV->H.264码流->YUV”

2.VC下FFmpeg开发环境的搭建

新建控制台工程

打开visual studio

文件 新建 项目 win32控制台应用程序

拷贝FFmpeg开发文件

头文件（*.h）拷贝至项目文件夹的include子文件夹下

导入库文件（*.lib）拷贝至项目文件夹的lib子文件夹下

动态库文件（*.dll）拷贝至项目文件夹下

PS：如果直接使用官网上下载的FFmpeg开发文件。则可能还需要将MinGW安装目录中的inttypes.h，stdint.h，_mingw.h三个文件拷贝至项目文件夹的include子文件夹下。

配置开发文件

打开属性面板

解决方案资源管理器->右键单击项目->属性

头文件配置

配置属性->C/C++->常规->附加包含目录，输入“include”（刚才拷贝头文件的目录）

导入库配置

配置属性->链接器->常规->附加库目录，输入“lib” （刚才拷贝库文件的目录）

配置属性->链接器->输入->附加依赖项，输入“avcodec.lib; avformat.lib; avutil.lib; avdevice.lib; avfilter.lib; postproc.lib; swresample.lib; swscale.lib”（导入库的文件名）

动态库不用配置

main()中调用一个FFmpeg的接口函数

例如下面代码打印出了FFmpeg的配置信息

int main(int argc, char* argv[]){ printf("%s", avcodec_configuration()); return 0; }

如果运行无误，则代表FFmpeg已经配置完成。

3.FFmpeg简介

FFmpeg一共包含8个库：

avcodec：编解码（最重要的库）。

avformat：封装格式处理。

avfilter：滤镜特效处理。

avdevice：各种设备的输入输出。

avutil：工具库（大部分库都需要这个库的支持）。

postproc：后加工。

swresample：音频采样数据格式转换。

swscale：视频像素数据格式转换。

1).FFmpeg解码流程图见图1：

2).FFmpeg解码函数简介

av_register_all()：注册所有组件。

avformat_open_input()：打开输入视频文件。

avformat_find_stream_info()：获取视频文件信息。

avcodec_find_decoder()：查找解码器。

avcodec_open2()：打开解码器。

av_read_frame()：从输入文件读取一帧压缩数据。

avcodec_decode_video2()：解码一帧压缩数据。

avcodec_close()：关闭解码器。

avformat_close_input()：关闭输入视频文件。

3).FFmpeg相关结构体(类型)见图2：

I、FFmpeg数据结构简介

AVFormatContext

封装格式上下文结构体，也是统领全局的结构体，保存了视频文件封装格式相关信息。

AVInputFormat

每种封装格式（例如FLV, MKV, MP4, AVI）对应一个该结构体。

AVStream

视频文件中每个视频（音频）流对应一个该结构体。

AVCodecContext

编码器上下文结构体，保存了视频（音频）编解码相关信息。

AVCodec

每种视频（音频）编解码器(例如H.264解码器)对应一个该结构体。

AVPacket

存储一帧压缩编码数据。

AVFrame

存储一帧解码后像素（采样）数据。

II、FFmpeg数据结构分析

AVFormatContext

iformat：输入视频的AVInputFormat

nb_streams ：输入视频的AVStream 个数

streams ：输入视频的AVStream []数组

duration ：输入视频的时长（以微秒为单位）

bit_rate ：输入视频的码率

AVInputFormat

name：封装格式名称

long_name：封装格式的长名称

extensions：封装格式的扩展名

id：封装格式ID

一些封装格式处理的接口函数

AVStream

id：序号

codec：该流对应的AVCodecContext

time_base：该流的时基

r_frame_rate：该流的帧率

AVCodecContext

codec：编解码器的AVCodec

width, height：图像的宽高（只针对视频）

pix_fmt：像素格式（只针对视频）

sample_rate：采样率（只针对音频）

channels：声道数（只针对音频）

sample_fmt：采样格式（只针对音频）

AVCodec

name：编解码器名称

long_name：编解码器长名称

type：编解码器类型

id：编解码器ID

一些编解码的接口函数

AVPacket

pts：显示时间戳

dts ：解码时间戳

data ：压缩编码数据

size ：压缩编码数据大小

stream_index ：所属的AVStream

AVFrame

data：解码后的图像像素数据（音频采样数据）。

linesize：对视频来说是图像中一行像素的大小；对音频来说是整个音频帧的大小。

width, height：图像的宽高（只针对视频）。

key_frame：是否为关键帧（只针对视频） 。

pict_type：帧类型（只针对视频） 。例如I，P，B。

III、注意事项

裸流文件，即如h264文件，是没有时长等信息的，封装格式的才有

数据结构第一层为封装格式相关的，下面层为编解码相关的

其中

AVStream中的time_base 表示该流的时基，也就是时间的基数，简单可理解为时间的单位，比如时间数是2，时基是1s，则时间为2s

AVPacket:可以理解为h264中的数据包，编码后的包

其中，pts:显示时间戳,表示该视频帧几分几秒的时候放到屏幕上。这个值只是一个整数 没有单位，所以要得到具体的几分几秒需要和前面的time_base时基参数相乘得到。

dts：解码时间戳

stream_index:标识，表示该流属于音频流还是视频流。

data:压缩编码的数据，如h264的编码，就可以取出该数据保存起来形成的文件就是h264文件。

通过av_read_frame可从大的数据结构指针中读取到AVPacket数据

注意播放的顺序不一定按照存储的顺序来。即有一个显示的顺序和一个解码的顺序。

AVFrame

data:解码后的图像像素数据，如YUV等，可形成yuv文件(依次存储的是y、u、v分量，其中u 宽和高都只有y一半，整个数据量就y的四分之一，v的也一样)。data是一个指针数组，其中一个分量对应一个数组

数据先通过解码函数avcodec_decode_video2进行解码，然后由于解码出来的数据由于是有黑边(多出一块多余的数据)，所以还需用sws_scale函数把这块多余的裁了。

4).解码后的数据要经过sws_scale()函数处理

解码后YUV格式的视频像素数据保存在AVFrame的data[0]、data[1]、data[2]中。但是这些像素值并不是连续存储的，每行有效像素之后存储了一些无效像素。

以亮度Y数据为例，data[0]中一共包含了linesize[0]*height个数据。但是出于优化等方面的考虑，linesize[0]实际上并不等于宽度width，而是一个比宽度大一些的值。

因此需要使用sws_scale()进行转换。转换后去除了无效数据，width和linesize[0] 取值相等。如下图3：

其中，sws_scale()函数需要用到的转换信息，即第一个参数，是由sws_getContext函数获得的

转换后保存在一个新的帧数据结构体，由于使用的转换函数而不是解码函数，所以这个结构体还需要填充其内部的缓冲区，用于存储像素数据，填充的方法使用avpicture_fill函数：

int avpicture_fill(AVPicture *picture, uint8_t *ptr,int pix_fmt, int width, int height);

这个函数的使用本质上是为已经分配的空间的结构体(AVPicture *)ptFrame挂上一段用于保存数据的空间，

这个结构体中有一个指针数组data[AV_NUM_DATA_POINTERS]，挂在这个数组里。一般我们这么使用：

I、pFrameRGB=avcodec_alloc_frame(); II、numBytes=avpicture_get_size(PIX_FMT_RGB24, pCodecCtx->width,pCodecCtx->height); buffer=(uint8_t *)av_malloc(numBytes*sizeof(uint8_t)); III、avpicture_fill((AVPicture *)pFrameRGB, buffer, PIX_FMT_RGB24,pCodecCtx->width, pCodecCtx->height);

以上就是为pFrameRGB挂上buffer。这个buffer是用于存缓冲数据的。

ptFrame为什么不用fill空间。主要是下面这句：

avcodec_decode_video(pCodecCtx, pFrame, &frameFinished,packet.data, packet.size);

很可能是ptFrame已经挂上了packet.data，所以就不用fill了。

二、SDL视频显示

SDL(Simple DirectMedia Layer)库的作用说白了就是封装了复杂的视音频底层交互工作，简化了视音频处理的难度。

主要用来做游戏，现在只用到其视频显示部分。

特点：跨平台，开源

1.库的结构图见图：

实际上它调用了底层api完成了和硬件的交互，比如linux下，就操作了framebuffer.

2.配置vc工程和之前ffmpeg的配置几乎都是一样的:

1).新建控制台工程

打开VC++

文件->新建->项目->Win32控制台应用程序

2).拷贝SDL开发文件

头文件（*.h）拷贝至项目文件夹的include子文件夹下

导入库文件（*.lib）拷贝至项目文件夹的lib子文件夹下

动态库文件（*.dll）拷贝至项目文件夹下

3).配置开发文件

打开属性面板

解决方案资源管理器->右键单击项目->属性

4).头文件配置

配置属性->C/C++->常规->附加包含目录，输入“include”（刚才拷贝文件的目录）

5).导入库配置

配置属性->链接器->常规->附加库目录，输入“lib” （刚才拷贝文件的目录）

配置属性->链接器->输入->附加依赖项，输入“SDL2.lib; SDL2main.lib”（导入库的文件名）

6).动态库不用配置

7).是否配置成功，调用sdl的初始化函数，查看其返回值即可确定:

创建源代码文件

在工程中创建一个包含main()函数的C/C++文件（如果已经有了可以跳过这一步），后续步骤在该文件中编写源代码。

包含头文件

如果是C语言中使用SDL，则直接使用下面代码

#include "SDL2/SDL.h"

如果是C++语言中使用SDL，则使用下面代码

extern "C" { #include "SDL2/SDL.h" }

main()中调用一个SDL的接口函数

例如下面代码初始化了SDL

int main(int argc, char* argv[]){ if(SDL_Init(SDL_INIT_VIDEO)) { printf( "Could not initialize SDL - %sn", SDL_GetError()); } else{ printf("Success init SDL"); } return 0; }

如果运行无误，则代表SDL已经配置完成。

3.SDL视频显示的流程图见图5：

其中特别要注意的是创建纹理数据时要传入渲染器，原因是，

纹理数据依赖于渲染器，只有通过渲染器创建才能得到该渲染器合法的纹理数据((数据格式)符合该渲染器的要求)，

填充了像素数据且符合要求的纹理数据才可以拷贝给渲染器，并且渲染器才能正确显示出来。

1).SDL视频显示函数简介

SDL_Init()：初始化SDL系统

SDL_CreateWindow()：创建窗口SDL_Window

SDL_CreateRenderer()：创建渲染器SDL_Renderer

SDL_CreateTexture()：创建纹理SDL_Texture

SDL_UpdateTexture()：设置纹理的数据

SDL_RenderCopy()：将纹理的数据拷贝给渲染器

SDL_RenderPresent()：显示

SDL_Delay()：工具函数，用于延时。

SDL_Quit()：退出SDL系统

其中SDL_Delay 延时函数，控制显示的速度，即控制帧率。通常每秒25帧，所以通常延时也就是40ms

2).SDL视频显示的数据结构

I、SDL视频显示的数据结构如图6所示：

II、SDL数据结构简介

SDL_Window

代表了一个“窗口”

SDL_Renderer

代表了一个“渲染器”

SDL_Texture

代表了一个“纹理”

SDL_Rect

一个简单的矩形结构

具体来说，

SDL_Window 窗口，类似弹出的窗口

SDL_Renderer 渲染器，把纹理数据画(渲染)到window上

一个window上不仅仅只有一副画面，类似多组监控画面，即一个window可对应多个yuv数据

SDL_Rect，正方形结构，存了矩形的坐标，长宽，以便确定纹理数据画在哪个位置，确定位置用，比如画在左上角就用这个来确定。被渲染器调用

SDL_Rect中的x y值是左上角为圆点开始的坐标值，调整x y值以及w h值，就可以实现在窗口的指定位置显示，没有画面的地方为黑框。

当x y等于0，w h等于窗口的宽高时即为全屏显示，此时调整宽高大小，只需调整窗口大小即可。

4.进阶-SDL中事件和多线程

1).SDL多线程

函数

SDL_CreateThread()：创建一个线程

数据结构

SDL_Thread：线程的句柄

SDL事件

函数

SDL_WaitEvent()等待一个事件

SDL_PushEvent()发送一个事件

数据结构

SDL_Event：代表一个事件

SDL中事件和多线程,可用于解决上个程序播放过程中鼠标不能动的问题，

使用事件，等待事件中，就会响应鼠标键盘等事件，就不会卡在那了

将延时操作放到一个子线程中，用事件通知主线程，这样主线程就不用延时了，就可以及时响应事件了

SDL_WINDOWENVENT sdl系统自带的事件，当拉伸窗口的时候会触发

SDL_QUIT 也是SDL自带的事件，当点击窗口的×时触发

三、FFmpeg+SDL视频播放器

1.FFmpeg+SDL整合之后实现：视频文件->YUV->屏幕

2.SDL_UpdateTexture函数最后一个参数表示的是，一行像素数据的数据量

窗口的宽和高无所谓，但是纹理数据的宽和高要和视频数据的宽和高一致。

3.对于大数据的调试，如果直接打印出来，数据太多不好分析，一般是写入到文件，然后用工具打开文件去分析。

比如视频像素数据，可以写入到yuv文件，再用yuv分析工具来分析。

4.脱离开发环境的独立播放器

在解决方案中的debug目录下的*.exe文件即为编译好的可执行文件。

执行这个文件就可以脱离开发环境运行。

5.调试时，在属性->调试->命令参数 中填的东西，就是程序的输入参数，也就是argv中的内容

平时独立的exe程序，只需在执行的时候后面加上参数就是输入参数了，如ffplay.exe那样。

四、FFmpeg+SDL视频播放器代码实现

主要是FFmpegAndSDL.cpp文件，代码如下(基本上每一行都有注释)：

1 /***************************************************************************** 2 * Copyright (C) 2017-2020 Hanson Yu All rights reserved. 3 ------------------------------------------------------------------------------ 4 * File Module : FFmpegAndSDL.cpp 5 * Description : FFmpegAndSDL Demo 6 7 8 * Created : 2017.09.21. 9 * Author : Yu Weifeng 10 * Function List : 11 * Last Modified : 12 * History : 13 * Modify Date Version Author Modification 14 * ----------------------------------------------- 15 * 2017/09/21 V1.0.0 Yu Weifeng Created 16 ******************************************************************************/ 17 18 #include "stdafx.h" 19 #include <stdio.h> 20 21 22 /*解决错误： 23 LNK2019 无法解析的外部符号 __imp__fprintf，该符号在函数 _ShowError 中被引用 24 25 原因： 26 ……这是链接库问题 27 就是工程里面没有添加那两个函数需要的库，#progma这个是代码链接库 28 第二句是vs2015兼容的问题。 29 lib库的vs编译版本 和 工程的vs开发版本 不一致。 30 导出函数定义变了。所以要人为加一个函数导出。 31 */ 32 #pragma comment(lib, "legacy_stdio_definitions.lib") 33 extern "C" { FILE __iob_func[3] = { *stdin,*stdout,*stderr }; } 34 35 /* 36 __STDC_LIMIT_macROS and __STDC_CONSTANT_MACROS are a workaround to allow C++ programs to use stdint.h 37 macros specified in the C99 standard that aren't in the C++ standard. The macros, such as UINT8_MAX, INT64_MIN, 38 and INT32_C() may be defined already in C++ Applications in other ways. To allow the user to decide 39 if they want the macros defined as C99 does, many implementations require that __STDC_LIMIT_MACROS 40 and __STDC_CONSTANT_MACROS be defined before stdint.h is included. 41 42 This isn't part of the C++ standard, but it has been adopted by more than one implementation. 43 */ 44 #define __STDC_CONSTANT_MACROS 45 46 extern "C" 47 { 48 #include "libavcodec/avcodec.h" 49 #include "libavformat/avformat.h" 50 #include "libswscale/swscale.h" 51 #include "SDL2/SDL.h" 52 }; 53 54 55 //Refresh Event 自定义事件 56 #define PLAY_REFRESH_EVENT (SDL_USEREVENT + 1)//自定义刷新图像(播放)事件 57 #define PLAY_BREAK_EVENT (SDL_USEREVENT + 2) //自定义退出播放事件 58 59 60 static int g_iThreadExitFlag = 0; 61 /***************************************************************************** 62 -Fuction : RefreshPlayThread 63 -Description : RefreshPlayThread 64 -Input : 65 -Output : 66 -Return : 67 * Modify Date Version Author Modification 68 * ----------------------------------------------- 69 * 2017/09/21 V1.0.0 Yu Weifeng Created 70 ******************************************************************************/ 71 int RefreshPlayThread(void *opaque) 72 { 73 g_iThreadExitFlag = 0; 74 SDL_Event tEvent={0}; 75 76 while (!g_iThreadExitFlag) 77 { 78 tEvent.type = PLAY_REFRESH_EVENT; 79 SDL_PushEvent(&tEvent);//发送事件给其他线程 80 SDL_Delay(20);//延时函数 填40的时候，视频会有种卡的感觉 81 } 82 //Break 83 g_iThreadExitFlag = 0; 84 tEvent.type = PLAY_BREAK_EVENT; 85 SDL_PushEvent(&tEvent);//发送事件给其他线程 发送一个事件 86 87 return 0; 88 } 89 90 /***************************************************************************** 91 -Fuction : main 92 -Description : main 93 -Input : 94 -Output : 95 -Return : 96 * Modify Date Version Author Modification 97 * ----------------------------------------------- 98 * 2017/09/21 V1.0.0 Yu Weifeng Created 99 ******************************************************************************/ 100 int main(int argc, char* argv[]) 101 { 102 /*------------FFmpeg----------------*/ 103 const char *strFilePath = "屌丝男士.mov"; 104 AVFormatContext *ptFormatContext = NULL;//封装格式上下文，内部包含所有的视频信息 105 int i = 0; 106 int iVideoindex=0;//纯视频信息在音视频流中的位置，也就是指向音视频流数组中的视频元素 107 AVCodecContext *ptCodecContext;//编码器相关信息上下文，内部包含编码器相关的信息，指向AVFormatContext中的streams成员中的codec成员 108 AVCodec *ptCodec;//编码器，使用函数avcodec_find_decoder或者，该函数需要的id参数，来自于ptCodecContext中的codec_id成员 109 AVFrame *ptFrame=NULL;//存储一帧解码后像素（采样）数据 110 AVFrame *ptFrameAfterScale=NULL;//存储(解码数据)转换后的像素（采样）数据 111 unsigned char *pucFrameAfterScaleBuf=NULL;//用于存储ptFrameAfterScale中的像素（采样）缓冲数据 112 AVPacket *ptPacket=NULL;//存储一帧压缩编码数据 113 int iRet =0; 114 int iGotPicture=0;//解码函数的返回参数，got_picture_ptr Zero if no frame could be decompressed, otherwise, it is nonzero 115 116 /*------------SDL----------------*/ 117 int iScreenWidth=0, iScreenHeight=0;//视频的宽和高，指向ptCodecContext中的宽和高 118 SDL_Window *ptSdlWindow=NULL;//用于sdl显示视频的窗口(用于显示的屏幕) 119 SDL_Renderer* ptSdlRenderer=NULL;//sdl渲染器，把纹理数据画(渲染)到window上 120 SDL_Texture* ptSdlTexture=NULL;//sdl纹理数据,用于存放像素（采样）数据，然后给渲染器 121 SDL_Rect tSdlRect ={0};//正方形矩形结构，存了矩形的坐标，长宽，以便确定纹理数据画在哪个位置，确定位置用，比如画在左上角就用这个来确定。被渲染器调用 122 SDL_Thread *ptVideoControlTID=NULL;//sdl线程id,线程的句柄 123 SDL_Event tSdlEvent = {0};//sdl事件,代表一个事件 124 125 /*------------像素数据处理----------------*/ 126 struct SwsContext *ptImgConvertInfo;//图像转换(上下文)信息，图像转换函数sws_scale需要的参数，由sws_getContext函数赋值 127 128 129 130 /*------------FFmpeg----------------*/ 131 av_register_all();//注册FFmpeg所有组件 132 avformat_network_init();//初始化网络组件 133 134 ptFormatContext = avformat_alloc_context();//分配空间给ptFormatContext 135 if (avformat_open_input(&ptFormatContext, strFilePath, NULL, NULL) != 0) 136 {//打开输入视频文件 137 printf("Couldn't open input stream.n"); 138 return -1; 139 } 140 if (avformat_find_stream_info(ptFormatContext, NULL)<0) 141 {//获取视频文件信息 142 printf("Couldn't find stream information.n"); 143 return -1; 144 } 145 //获取编码器相关信息上下文，并赋值给ptCodecContext 146 iVideoindex = -1; 147 for (i = 0; i<ptFormatContext->nb_streams; i++) 148 { 149 if (ptFormatContext->streams[i]->codec->codec_type == AVMEDIA_TYPE_VIDEO) 150 { 151 iVideoindex = i; 152 break; 153 } 154 } 155 if (iVideoindex == -1) 156 { 157 printf("Didn't find a video stream.n"); 158 return -1; 159 } 160 ptCodecContext = ptFormatContext->streams[iVideoindex]->codec; 161 162 ptCodec = avcodec_find_decoder(ptCodecContext->codec_id);//查找解码器 163 if (ptCodec == NULL) 164 { 165 printf("Codec not found.n"); 166 return -1; 167 } 168 if (avcodec_open2(ptCodecContext, ptCodec, NULL)<0) 169 {//打开解码器 170 printf("Could not open codec.n"); 171 return -1; 172 } 173 174 ptPacket = (AVPacket *)av_malloc(sizeof(AVPacket));//分配保存解码前数据的空间 175 ptFrame = av_frame_alloc();//分配结构体空间，结构体内部的指针指向的数据暂未分配,用于保存图像转换前的像素数据 176 177 /*------------像素数据处理----------------*/ 178 ptFrameAfterScale = av_frame_alloc();//分配结构体空间，结构体内部的指针指向的数据暂未分配,用于保存图像转换后的像素数据 179 pucFrameAfterScaleBuf = (uint8_t *)av_malloc(avpicture_get_size(PIX_FMT_YUV420P, ptCodecContext->width, ptCodecContext->height));//分配保存数据的空间 180 /*int avpicture_fill(AVPicture *picture, uint8_t *ptr,int pix_fmt, int width, int height); 181 这个函数的使用本质上是为已经分配的空间的结构体(AVPicture *)ptFrame挂上一段用于保存数据的空间， 182 这个结构体中有一个指针数组data[AV_NUM_DATA_POINTERS]，挂在这个数组里。一般我们这么使用： 183 1） pFrameRGB=avcodec_alloc_frame(); 184 2） numBytes=avpicture_get_size(PIX_FMT_RGB24, pCodecCtx->width,pCodecCtx->height); 185 buffer=(uint8_t *)av_malloc(numBytes*sizeof(uint8_t)); 186 3） avpicture_fill((AVPicture *)pFrameRGB, buffer, PIX_FMT_RGB24,pCodecCtx->width, pCodecCtx->height); 187 以上就是为pFrameRGB挂上buffer。这个buffer是用于存缓冲数据的。 188 ptFrame为什么不用fill空间。主要是下面这句： 189 avcodec_decode_video(pCodecCtx, pFrame, &frameFinished,packet.data, packet.size); 190 很可能是ptFrame已经挂上了packet.data，所以就不用fill了。*/ 191 avpicture_fill((AVPicture *)ptFrameAfterScale, pucFrameAfterScaleBuf, PIX_FMT_YUV420P, ptCodecContext->width, ptCodecContext->height); 192 //sws开头的函数用于处理像素(采样)数据 193 ptImgConvertInfo = sws_getContext(ptCodecContext->width, ptCodecContext->height, ptCodecContext->pix_fmt, 194 ptCodecContext->width, ptCodecContext->height, PIX_FMT_YUV420P, SWS_BICUBIC, NULL, NULL, NULL);//获取图像转换(上下文)信息 195 196 /*------------SDL----------------*/ 197 if (SDL_Init(SDL_INIT_VIDEO | SDL_INIT_TIMER)) 198 {//初始化SDL系统 199 printf("Could not initialize SDL - %sn", SDL_GetError()); 200 return -1; 201 } 202 //SDL 2.0 Support for multiple windows 203 iScreenWidth = ptCodecContext->width; 204 iScreenHeight = ptCodecContext->height; 205 ptSdlWindow = SDL_CreateWindow("Simplest ffmpeg player's Window", SDL_WINDOWPOS_UNDEFINED, SDL_WINDOWPOS_UNDEFINED, 206 iScreenWidth, iScreenHeight, SDL_WINDOW_OPENGL);//创建窗口SDL_Window 207 208 if (!ptSdlWindow) 209 { 210 printf("SDL: could not create window - exiting:%sn", SDL_GetError()); 211 return -1; 212 } 213 ptSdlRenderer = SDL_CreateRenderer(ptSdlWindow, -1, 0);//创建渲染器SDL_Renderer 214 //IYUV: Y + U + V (3 planes) 215 //YV12: Y + V + U (3 planes) 216 //创建纹理SDL_Texture 217 ptSdlTexture = SDL_CreateTexture(ptSdlRenderer, SDL_PIXELFORMAT_IYUV, SDL_TEXTUREACCESS_STREAMING, ptCodecContext->width, ptCodecContext->height); 218 219 tSdlRect.x = 0;//x y值是左上角为圆点开始的坐标值，调整x y值以及w h值，就可以实现在窗口的指定位置显示，没有画面的地方为黑框 220 tSdlRect.y = 0;//当x y等于0，w h等于窗口的宽高时即为全屏显示，此时调整宽高大小，只需调整窗口大小即可 221 tSdlRect.w = iScreenWidth; 222 tSdlRect.h = iScreenHeight; 223 224 ptVideoControlTID = SDL_CreateThread(RefreshPlayThread, NULL, NULL);//创建一个线程 225 226 while (1) 227 {//Event Loop 228 SDL_WaitEvent(&tSdlEvent);//Wait，等待其他线程过来的事件 229 if (tSdlEvent.type == PLAY_REFRESH_EVENT) //自定义刷新图像(播放)事件 230 { 231 /*------------FFmpeg----------------*/ 232 if (av_read_frame(ptFormatContext, ptPacket) >= 0) //从输入文件读取一帧压缩数据 233 { 234 if (ptPacket->stream_index == iVideoindex) 235 { 236 iRet = avcodec_decode_video2(ptCodecContext, ptFrame, &iGotPicture, ptPacket);//解码一帧压缩数据 237 if (iRet < 0) 238 { 239 printf("Decode Error.n"); 240 return -1; 241 } 242 if (iGotPicture) 243 { 244 //图像转换，sws_scale()函数需要用到的转换信息，即第一个参数，是由sws_getContext函数获得的 245 sws_scale(ptImgConvertInfo, (const uint8_t* const*)ptFrame->data, ptFrame->linesize, 0, ptCodecContext->height, ptFrameAfterScale->data, ptFrameAfterScale->linesize); 246 247 /*------------SDL----------------*/ 248 SDL_UpdateTexture(ptSdlTexture, NULL, ptFrameAfterScale->data[0], ptFrameAfterScale->linesize[0]);//设置(更新)纹理的数据 249 SDL_RenderClear(ptSdlRenderer);//先清除渲染器里的数据 250 //SDL_RenderCopy( ptSdlRenderer, ptSdlTexture, &tSdlRect, &tSdlRect ); //将纹理的数据拷贝给渲染器 251 SDL_RenderCopy(ptSdlRenderer, ptSdlTexture, NULL, NULL);//将纹理的数据拷贝给渲染器 252 SDL_RenderPresent(ptSdlRenderer);//显示 253 } 254 } 255 av_free_packet(ptPacket);//释放空间 256 } 257 else 258 { 259 g_iThreadExitFlag = 1;//Exit Thread 260 } 261 } 262 else if (tSdlEvent.type == SDL_QUIT) //也是SDL自带的事件，当点击窗口的×时触发//SDL_WINDOWENVENT sdl系统自带的事件，当拉伸窗口的时候会触发 263 { 264 g_iThreadExitFlag = 1; 265 } 266 else if (tSdlEvent.type == PLAY_BREAK_EVENT) //自定义退出播放事件 267 { 268 break; 269 } 270 271 } 272 273 /*------------像素数据处理----------------*/ 274 sws_freeContext(ptImgConvertInfo);//释放空间 275 276 /*------------SDL----------------*/ 277 SDL_Quit();//退出SDL系统 278 279 /*------------FFmpeg----------------*/ 280 av_frame_free(&ptFrameAfterScale);//释放空间 281 av_frame_free(&ptFrame);//释放空间 282 avcodec_close(ptCodecContext);//关闭解码器 283 avformat_close_input(&ptFormatContext);//关闭输入视频文件 284 285 return 0; 286 } FFmpegAndSDL.cpp

具体代码见github:

https://github.com/fengweiyu/FFmpegAndSDL