]> git.sesse.net Git - ffmpeg/commit
avformat/rmdec: Fix potential crash on allocation failure
authorAndreas Rheinhardt <andreas.rheinhardt@gmail.com>
Mon, 20 Jul 2020 20:44:42 +0000 (22:44 +0200)
committerAndreas Rheinhardt <andreas.rheinhardt@gmail.com>
Sat, 19 Sep 2020 18:26:53 +0000 (20:26 +0200)
commit5aafdb4e5fe3ca8a0d8b16498caf5899a8d68e2c
treeb18dcaa9d9e44d9867ed4ce1be3c37a7e4b37849
parent4cc43d30c387fda30e34b7075670dfb28e868acb
avformat/rmdec: Fix potential crash on allocation failure

The RealMedia demuxer uses the priv_data of its streams to store a
structure containing an AVPacket. These packets are unreferenced in the
read_close function, yet said function simply presumed that the
priv_data has been successfully allocated. This implies that it mustn't
be called when an allocation of priv_data fails; but this can happen
since commit 35bbc1955a58ba74552c50d9161084644f00bbd3 if one has a
stream with multiple substreams (also exported as AVStream) and if
allocating the priv_data for one of these substreams fails.

This has been fixed by making sure that read_close can handle the case
in which priv_data has not been successfully allocated.

Signed-off-by: Andreas Rheinhardt <andreas.rheinhardt@gmail.com>
libavformat/rmdec.c