ffmpeg处理hikvision平台ps流修订稿.docx

Document number【AA80KGB-AA98YT-AAT8CB-2A6UT-A18GG】 Document number【AA80KGB-AA98YT-AAT8CB-2A6UT-A18GG】 ffmpeg处理hikvision平台PS流 ffmpeg处理hikvision平台PS流 在多媒体指挥调度系统中，将监控平台的IPC音视频转发到视频会议、视频话机以及直播平台，是一个常见的需求。常见的监控平台在提供的SDK中通常以回调的方式将音视频媒体用复合流的方式送给应用程序。所谓的复合流，安防行业当然以PS流见多，hikvision平台也是如此。 既然是PS流，当然要仔细研究一下iso13818-1规范，本来想自己写PS流的解析代码，但考虑到已经有众多的PS流解析开源代码，咱就不必自己再造个汽车轮子了，趁着自己熟悉ffmpeg，还是用ffmpeg去解析吧，但没承想掉进一个大坑。。。 用ffmpeg的好处是，可以通过avio的方式，将内存中的ps流送入ffmpeg进行自动化的处理，通过探测流格式，寻找流，自动确定对应的流格式和音视频编码，自动拼帧，最终demux得到音频帧和视频帧。这样，不管是复合流（PS流或TS流），还是裸流（H.264或H.265等），都能用同一种机制进行处理，代码简洁。但坏处就是，必须对ffmpeg非常熟悉才行，如果稍有不慎掉坑了，必须要自己翻出来。。。 不幸的是，我也掉坑了。程序开发完毕，信心满满的进行测试，发现取到的PS流分离出H.265视频帧并转发到视频会议，视频会议中的IPC分屏小几率偶尔会闪一下屏，客户能不能忍咱不知道，但作为处女座人士，不能忍，遂一步步的排查原因。 首先怀疑是不是视频会议解码H.265解错了？毕竟视频会议的H.265 codec部分也是我刚加上的，虽然也通过了测试，但毕竟心里没有底气。于是就抓包分析，不幸的是又卡在H.265上，tcpdump抓包如果是H.264码流，大把的分析工具可以分离出码流，如果是H.265的抓包，一时没有找到合适的，毕竟H.265跟H.264的RTP打包规则有些差别，不通用。一怒之下，自己写了一个简单的分离程序，分离出了H.265码流，然后使用播放工具播放，发现果然也是有闪屏现象，于是首先排除了视频会议的问题。 其次，是不是RTP打包H.265时搞错了于是在RTP打包发送之前将H.265码流录制下来，使用播放工具播放，发现竟然也有闪屏现象。晕倒，竟然是ffmpeg分离出的H.265视频帧就有问题了！是hikvision的PS流有问题，还是ffmpeg分离265视频帧有问题面对业界内的两个大牌，我无语了。只好将hikvision SDK接口回调中的PS流录制下来，使用ffplay播放，也有闪屏现象，再改用potplayer播放，神奇了，potplayer如丝滑般流畅。于是，焦点集中在了ffmpeg上。 从输入PS流到取到H265视频帧，ffmpeg其实经历了2步：分析PS包和使用parser分析H265，哪一步有问题呢 决定先从PS包分析查起。用winhex打开录制的PS文件，定位到闪屏时程序日志记录的position： 00 00 01 BA 4D 0C AD BF 84 01 00 00 03 FE FF FF 00 00 01 BF 00 00 01 E0 13 FA 8C 80 07 23 43 2B 00 00 01 BA是PS头，之后有10个固定的字节，其中第十个字节的后3位是stuffing填充长度，在本例中是FE，FEamp;7等于6，则其后的6个字节是stuffing填充字节，咨询hikvision，说这stuffing他们一般用来填充帧序号，好吧，不管是什么都可以略过。但是等等，这stuffing字节怎么恰好有00 00 01 BF凭着对H264 H265以及PS的了解，对00 00 01还是敏感的，这个熟悉的起始码出现的实在太不是时候了，难不成ffmpeg把这个stuffing里面的字节认成了PS里面的PRIVATE_STREAM_2，从而造成错误于是赶紧查看ffmpeg里面的PS解析代码。 ffmpeg中的PS解析在mpeg.c文件中的mpegps_read_packet函数中，此函数先解析PS头，然后根据不同的pes取出不同的媒体流。既然是在BA头中的stuffing中发现的00 00 01起始头，肯定要查看解析PS头的函数，于是继续定位到mpeg.c的mpegps_read_pes_header函数，果然看出了端倪！