FFmpeg开发笔记（三十三）分析ZLMediaKit对H.264流的插帧操作

ffmpeg,zlmediakit · 浏览次数 : 0

小编点评

《FFmpeg开发实战：从零基础到短视频上线》是一本全面介绍FFmpeg在视频处理和流媒体领域应用的书籍。其中第三章主要讲解了如何将原始的H.264文件封装为MP4格式，并分析了网络上传输的H.264裸流是如何被接收端获取视频格式的。 1. **把原始的H264文件封装为MP4格式**：本章节首先介绍了如何使用FFmpeg将H.264裸流封装成MP4文件，以便在网络上传输。 2. **分析H264文件内容格式**：通过使用雷霄骅雷神的H264分析器，可以查看H.264文件的详细内容格式，包括SPS帧、PPS帧和IDR帧。 3. **流媒体服务器的处理方式**：以ZLMediaKit为例，说明了流媒体服务器在向推流序列插入I帧时，会自动插入SPS与PPS等配置帧。 4. **ZLMediaKit的源码分析**：深入分析了ZLMediaKit框架的源码，展示了如何在关键帧前后插入SPS帧和PPS帧。 5. **客户端拉流解析数据**：解释了为什么只有在H.264裸流中加上SPS和PPS帧，客户端才能正常拉流并解析数据。总的来说，这本书不仅提供了FFmpeg从零基础到短视频上线的详细教程，还深入剖析了H.264视频格式的封装和解封装过程，以及流媒体服务器的处理机制，对于学习和使用FFmpeg进行视频处理的人来说是一本非常有价值的参考书。

正文

《FFmpeg开发实战：从零基础到短视频上线》一书的“3.4.3 把原始的H264文件封装为MP4格式”介绍了如何把H.264裸流封装为MP4文件。那么在网络上传输的H.264裸流是怎样被接收端获取视频格式的呢？前文指出H.264流必定以“SPS帧→PPS帧→IDR帧”开头，接下来就来验证是否确实如此。

这里用到了雷霄骅雷神写的H264分析器，在此向雷神致敬，雷神10年前写的小程序至今仍然好用。打开H264分析器，该软件的初始界面如下图所示：

单击文件路径栏右边的打开按钮，在弹出的文件对话框中选择某个H.264裸流文件，再单击界面右下角的开始按钮，分析器便开始分析H264文件的内容格式，分析后的结果界面如下图所示：

从分析结果可见，H.264裸流的开头三帧果然是“SPS帧→PPS帧→IDR帧”。单击列表中的某个帧，界面右侧会显示该帧的详细字段信息。

当然，分析器只能读取H.264裸流文件。倘若让分析器读取MP4文件，就无法正常读出各帧信息。那么流媒体服务器又是怎么把MP4文件转化为H.264裸流的呢？
以ZLMediaKit为例，它在向推流序列插入I帧时做了特殊处理，一旦出现I帧，就自动插入SPS与PPS等配置帧。具体代码在ZLMediaKit框架的ext-codec/H264.cpp，查看该源码的H264Track::inputFrame_l函数，找到以下的代码片段，可见程序在判断关键帧之后调用了insertConfigFrame函数。

// 判断是否是I帧, 并且如果是,那判断前面是否插入过config帧, 如果插入过就不插入了
if (frame->keyFrame() && !_latest_is_config_frame) {
    insertConfigFrame(frame); // 插入SPS帧和PPS帧
}
if(!frame->dropAble()){
    _latest_is_config_frame = false;
}
ret = VideoTrack::inputFrame(frame);

找到insertConfigFrame函数的定义代码如下，果然函数内容依次插入了SPS帧和PPS帧：

// 插入SPS帧和PPS帧
void H264Track::insertConfigFrame(const Frame::Ptr &frame) {
    if (!_sps.empty()) { // 插入SPS帧
        auto spsFrame = FrameImp::create<H264Frame>();
        spsFrame->_prefix_size = 4;
        spsFrame->_buffer.assign("\x00\x00\x00\x01", 4);
        spsFrame->_buffer.append(_sps);
        spsFrame->_dts = frame->dts();
        spsFrame->setIndex(frame->getIndex());
        VideoTrack::inputFrame(spsFrame);
    }
    if (!_pps.empty()) { // 插入PPS帧
        auto ppsFrame = FrameImp::create<H264Frame>();
        ppsFrame->_prefix_size = 4;
        ppsFrame->_buffer.assign("\x00\x00\x00\x01", 4);
        ppsFrame->_buffer.append(_pps);
        ppsFrame->_dts = frame->dts();
        ppsFrame->setIndex(frame->getIndex());
        VideoTrack::inputFrame(ppsFrame);
    }
}

由此可见，ZLMediaKit在每个关键帧前面都额外插入了SPS帧和PPS帧，确保H.264裸流维持着形如“SPS帧→PPS帧→IDR帧”的队形。如果不添加SPS和PPS，客户端在拉流时会报错如下：

[NULL @ 0000022ed7782540] non-existing PPS 0 referenced

只有加上SPS与PPS，客户端才能正常拉流解析数据，才能正常渲染视频画面。
更多详细的FFmpeg开发知识参见《FFmpeg开发实战：从零基础到短视频上线》一书。