]> git.sesse.net Git - ffmpeg/commit
avformat/hlsenc: Fix extradata length check
authorAndreas Rheinhardt <andreas.rheinhardt@gmail.com>
Tue, 20 Oct 2020 10:16:27 +0000 (12:16 +0200)
committerAndreas Rheinhardt <andreas.rheinhardt@gmail.com>
Tue, 20 Oct 2020 10:43:16 +0000 (12:43 +0200)
commit96ad55df5bfa594defa2d57970686df3106a9ffa
tree1c47ce8135844c844d6e3b1afbaa732146c1659d
parent685ed1cbd139d1da04d432a3d3be9929666761bf
avformat/hlsenc: Fix extradata length check

Commit a2b1dd0ce301450a47c972745a6b33c4c273aa5d added support for
parsing annex B HEVC extradata to extract profile and level information.
Yet it only checks for there to be enough data left for the startcode
and the first byte of the NAL unit header and not for the full NAL unit
header; it simply presumes the second byte of the NAL unit header to be
present and skips it. Then the remaining size of the extradata is calculated
which ends up negative if the second byte of the NAL unit header is not
present. Yet when calling ff_nal_unit_extract_rbsp() it
will be converted to an uint32_t and end up as UINT32_MAX which
will cause mayhem.

This is solved by making sure that there is always enough remaining
extradata that could (pending 0x03 escapes) contain the data that we
are interested in.

Signed-off-by: Andreas Rheinhardt <andreas.rheinhardt@gmail.com>
libavformat/hlsenc.c