ffmpeg: Clear error message array at init.

This avoids printing uninitialized bytes if no error message is set

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/mlvdec: Use avio_closep() to avoid leaving stale pointers in memory

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/mlvdec: Simplify code by using avio_closep()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/mov: Use avio_closep() to avoid leaving stale pointers in memory

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/rtpenc_chain: Use avio_closep() to avoid leaving stale pointers in memory

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/rtsp: Use avio_closep() to avoid leaving stale pointers in memory

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/dvdsubdec: fix accessing dangling pointers

dvdsub_decode() can call append_to_cached_buf() 2 times, the second time
with ctx->buf as argument. If the second append_to_cached_buf() reallocs
ctx->buf, the argument will be a pointer to the previous, freed block.
This can cause invalid reads at least with some fuzzed files - and
possibly with valid files.

Since packets can apparently not be larger than 64K (even if packets are
combined), just use a fixed size buffer. It will be allocated as part of
the DVDSubContext, and although some memory is "wasted", it's relatively
minimal by modern standards and should be acceptable.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '2dbd35b00c6433e587d5f44d5dbc8972ebbaa88e'

* commit '2dbd35b00c6433e587d5f44d5dbc8972ebbaa88e':
  libfdk-aacdec: Make sure decoding doesn't add any extra delay in the latest version of fdk-aac

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '3852e2c926ddb166c7aa69c4644a86100ea144d9'

* commit '3852e2c926ddb166c7aa69c4644a86100ea144d9':
  libopenh264enc: Fix a typo and some nitpicks

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '71ec3d36fa6122b3b6c5c68a21b9c70cb2e668e8'

* commit '71ec3d36fa6122b3b6c5c68a21b9c70cb2e668e8':
  doc: Add initial documentation about the OpenH264 encoder wrapper

Merged-by: Michael Niedermayer <michaelni@gmx.at>

lavfi/boxblur: Readd 8bit colour spaces on big-endian.

avformat/hlsenc: Use avio_closep() to avoid leaving stale pointers in memory

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/img2dec: Use avio_closep() to avoid leaving stale pointers in memory

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/img2enc: Use avio_closep() to avoid leaving stale pointers in memory

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/hdsenc: Simplify code by using avio_closep()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avdevice/lavfi: Use avio_closep() to avoid leaving stale pointers in memory

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ffserver: Use avio_closep() to avoid leaving stale pointers in memor

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ffmpeg: Use avio_closep() to avoid leaving stale pointers in memory

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ffmpeg_opt: Use avio_closep() to avoid leaving stale pointers in memory

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libfdk-aacdec: Make sure decoding doesn't add any extra delay in the latest version of fdk-aac

The latest version added support for a new option for enabling
a signal level limiter, which adds some extra delay. In fdk-aac, this
is enabled by default, but disable it by default here since we'd rather
have zero-delay decoding.

Signed-off-by: Martin Storsjö <martin@martin.st>

libopenh264enc: Fix a typo and some nitpicks

Also move the .long_name entry to below the .name entry.

Signed-off-by: Martin Storsjö <martin@martin.st>

doc: Add initial documentation about the OpenH264 encoder wrapper

Signed-off-by: Martin Storsjö <martin@martin.st>

doc/examples/transcoding: Use avio_closep() in examples as it avoids leaving stale pointers

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

idoc/examples/remuxing: Use avio_closep() in examples as it avoids leaving stale pointers

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

doc/examples/transcode_aac: Use avio_closep() in examples as it avoids leaving stale pointers

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

doc/examples/muxing: Use avio_closep() in examples as it avoids leaving stale pointers

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

doc: fix typos

Signed-off-by: Lou Logan <lou@lrcd.com>

avcodec/dvdsubdec: error on bitmaps with size 0

Attemtping to decode them could lead to invalid writes with some fuzzed
samples.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '5a1addd7c1d8ff218ed4b84f4f02fdb83980094c'

* commit '5a1addd7c1d8ff218ed4b84f4f02fdb83980094c':
  xsub: Support DXSA subtitles

Conflicts:
libavcodec/xsubdec.c

See: d6f910ea47255b519e0b71c33d74c409a29ab3db
Merged-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '01168bf1405ddbf671f1074a927b951b8777adbb'

* commit '01168bf1405ddbf671f1074a927b951b8777adbb':
  mpeg: Remove unused field

Merged-by: Michael Niedermayer <michaelni@gmx.at>

avformat/segment: Clear contexts after deallocation

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit 'b3f04657368a32a9903406395f865e230b1de348'

* commit 'b3f04657368a32a9903406395f865e230b1de348':
  segment: Fix the failure paths

Conflicts:
libavformat/segment.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/aic: Use av_malloc_array

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ffmpeg_opt: Check for av_realloc_array() failure

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ffmpeg_opt: Use av_realloc_array()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/libxvid: fix potential integer overflow

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/dvbsub: remove unused variable

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

xsub: Support DXSA subtitles

These have a DXSA tag and contain alpha in addition to
color values for palette.

Signed-off-by: Jean-Baptiste Kempf <jb@videolan.org>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

mpeg: Remove unused field

avcodec/mpeg12: Try to fetch pts/dts from both the packet associated with the picture start code as well as earlier start codes

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

segment: Fix the failure paths

A failure in segment_end() or segment_start() would lead to freeing
a dangling pointer and in general further calls to seg_write_packet()
or to seg_write_trailer() would have the same faulty behaviour.

CC: libav-stable@libav.org
Reported-By: luodalongde@gmail.com

avcodec/parser: add fuzzy mode to ff_fetch_timestamp()

This will be needed for the following timestamp fix

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/allcodecs: prefer x264 over openh264 if both are available

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '8a3d9ca603f4d15ecaa9ca379cbaab4ecaec8ce4'

* commit '8a3d9ca603f4d15ecaa9ca379cbaab4ecaec8ce4':
  libavcodec: Add an OpenH264 encoder wrapper

Conflicts:
Changelog
configure
libavcodec/version.h

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '2a1500fb552364488cfbee3e29e296788a3a6bdd'

* commit '2a1500fb552364488cfbee3e29e296788a3a6bdd':
  movenc: Fix a typo in a comment

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit 'e581e88cbdb3323ca0026a54b39a9716a3686e9f'

* commit 'e581e88cbdb3323ca0026a54b39a9716a3686e9f':
  movenc: Readd an accidentally removed condition

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '8e03ca2fff40ce065ea5a516200e777c96cd785e'

* commit '8e03ca2fff40ce065ea5a516200e777c96cd785e':
  isom: add 'mp1v' fourcc

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '1c6183233d56fb27a4a154e7e64ecab98bd877f1'

* commit '1c6183233d56fb27a4a154e7e64ecab98bd877f1':
  msmpeg4: check memory allocations and propagate errors

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit 'ed97963bdbf3bb17fca4f9ea0aa1a97722dec907'

* commit 'ed97963bdbf3bb17fca4f9ea0aa1a97722dec907':
  ulti: invert the order of parameters of ulti_decode_frame()

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '4438c256387a5845e5cdc5c14c43f4047b68301b'

* commit '4438c256387a5845e5cdc5c14c43f4047b68301b':
  vf_interlace: remove the warning tag in the message

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '15ea222778caaec0877b3f9938140b707c931d96'

* commit '15ea222778caaec0877b3f9938140b707c931d96':
  vf_interlace: merge FIELD_LOWER check

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '046f75a970701b4c947d38bfd2186dcc5f2ddae2'

* commit '046f75a970701b4c947d38bfd2186dcc5f2ddae2':
  vf_interlace: also assert for height

Merged-by: Michael Niedermayer <michaelni@gmx.at>

vfilter/vf_tinterlace: Fix issues with linesize and cols

Based on patch by Vittorio Giovara <vittorio.giovara@gmail.com> from 696141e898193311c994b399a8dc60713709092f

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '696141e898193311c994b399a8dc60713709092f'

* commit '696141e898193311c994b399a8dc60713709092f':
  vf_interlace: use image width rather than linesize

Conflicts:
libavfilter/vf_interlace.c

See: f043965cd5145d8540d55c013b0d809b6a874c53
Merged-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit 'fe082998683334e7f573cfe3876810fb80c5249c'

* commit 'fe082998683334e7f573cfe3876810fb80c5249c':
  build: Use -Werror=format-security

Conflicts:
configure

See: 97592faa51eacda9a949c4f0ba2a6d7989ef5f3b
Merged-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '2cef68da69a17ed09c313ba3c3850ec1cc0a80e0'

* commit '2cef68da69a17ed09c313ba3c3850ec1cc0a80e0':
  vda: error out if decoded CVPixelBuffer is empty

Merged-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/ffv1enc: Fix incompatible pointer type warning

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '0352ff102d62ee94e79e0baaf64d5ad4e66f907b'

* commit '0352ff102d62ee94e79e0baaf64d5ad4e66f907b':
  ffv1: const correctness for encode_rgb_frame()

Conflicts:
libavcodec/ffv1enc.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit 'ca09effb01e126b0ac74ff3de70a475423ddee82'

* commit 'ca09effb01e126b0ac74ff3de70a475423ddee82':
  ffv1: Drop unnecessary casts and const qualifiers to match function signatures

Conflicts:
libavcodec/ffv1dec.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '1dd797e3c9f179f957316a0becbec048b42df8aa'

* commit '1dd797e3c9f179f957316a0becbec048b42df8aa':
  swscale: check memory allocations

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '07a0c0f0005072d115ace61e60f46be68582cc3a'

* commit '07a0c0f0005072d115ace61e60f46be68582cc3a':
  opt: check memory allocation

Merged-by: Michael Niedermayer <michaelni@gmx.at>

tools/ismindex.c: Use av_realloc_array()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

tools/ismindex: Keep count fields consistent with arrays in case of errors

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libavcodec: Add an OpenH264 encoder wrapper

Compared to existing, common opensource H264 encoders, this can be
useful since it has got a different license (BSD instead of GPL).

Performance- and qualitywise it is comparable to x264 in ultrafast
mode.

Hooking it up as an encoder in libavcodec also simplifies comparing
it against other common encoders.

This requires OpenH264 1.3 or newer. Since the OpenH264 API and ABI
changes frequently, only releases are supported.

To take advantage of the OpenH264 patent offer, the OpenH264 library
must not be redistributed, but downloaded at runtime at the end-user's
system.

Signed-off-by: Martin Storsjö <martin@martin.st>

movenc: Fix a typo in a comment

Signed-off-by: Martin Storsjö <martin@martin.st>

movenc: Readd an accidentally removed condition

This was removed accidentally as part of 847bf598. This could cause
groundless warning logging.

Signed-off-by: Martin Storsjö <martin@martin.st>

cmdutils.c: Use av_realloc_array()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

isom: add 'mp1v' fourcc

As referenced in the CoreMedia API docs.

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

msmpeg4: check memory allocations and propagate errors

Bug-Id: CID 1257781

ulti: invert the order of parameters of ulti_decode_frame()

This is the order that the caller uses in the rest of the file.
Variables are modified to reflect the order above too and their
initialization is merged with their declarationt. No behavioral
change.

Bug-Id: CID 732286

avformat/id3v2: support USLT tags

I think this turned out pretty terrible. There's no good way to add new
custom tags that write to AVFormatContext->metadata.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

cmdutils: Use 64bit for file size/offset related variable in cmdutils_read_file()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/utils: Clear pointer in ff_alloc_extradata() to avoid leaving a stale pointer in memory

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avfilter/buffer: use av_freep() to avoid leaving stale pointers in memory

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/hlsproto: Use av_freep, to avoid leaving stale pointers in memory

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/matroskadec: Use av_freep() to avoid leaving stale pointers in memory

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/mov: use av_freep() to avoid leaving stale pointers in memory

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/mov: Clear array to prevent potential out of array read from av_dlog()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

lavfi: check av_strdup() return value

Signed-off-by: Paul B Mahol <onemda@gmail.com>

mov: Fix negative size calculation in mov_read_default().

The previous code assumed if an atom was marked with a 64-bit
size extension, it actually had that data available. The new
code verfies there's enough data in the atom for this to be
done.

Failure to verify causes total_size > atom.size which will
result in negative size calculations later on.

Found-by: Paul Mehta <paul@paulmehta.com>
Signed-off-by: Dale Curtis <dalecurtis@chromium.org>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/mov: fix integer overflow in mov_read_udta_string()

Found-by: Paul Mehta <paul@paulmehta.com>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mov: Fix overflow and error handling in read_tfra().

Under abnormal conditions the item_count may exceed the max
allocation size on 32-bit systems, this causes the allocated
size to overflow and become too small for the given count.

Additionally, if av_reallocp() fails its allocation, the
fragment_index_count is not correctly decremented.

Ensuring further havoc may be wrought, the error code for
read_tfra() is not checked upon return.

Found-by: Paul Mehta <paul@paulmehta.com>
positive return code and use of _array functions by commiter

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avfilter/vf_idet: Add analyze_interlaced_flag mode

This should allow us to insert idet before scale and let scale have interl=-1 as default in that case

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avfilter/vf_yadif: detect telecine content

Fixes: yadif with interlaced_flag_switch.mpeg
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/id3v1: strip trailing whitespace

ID3v1 fields have a fixed size, and they are padded either with zeros,
or with spaces. Handle the latter case, instead of putting strings with
trailing spaces into the AVDictionary.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

x86/flacdsp: remove unneeded ifdeffery

x86inc can translate r*m into a register or stack on its own

Reviewed-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: James Almer <jamrial@gmail.com>

avformat/dvbsub: increase probe score

Ive not found a single false positive after some moderate testing with
probetest

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/dvbsub: fix indent after previous commit

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/dvbsub: check for 0xf0 earlier in probe, 30% faster

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge remote-tracking branch 'origin/master'

* origin/master:
  libavfilter/vf_blend: do not unconditionally compile both filters

Merged-by: Michael Niedermayer <michaelni@gmx.at>

vf_interlace: remove the warning tag in the message

The log level is already a warning.

vf_interlace: merge FIELD_LOWER check

vf_interlace: also assert for height

vf_interlace: use image width rather than linesize

Based on a patch by Michael Niedermayer <michaelni@gmx.at>.

build: Use -Werror=format-security

Reduce the chance of introducing a class of bugs quite hard to track.

vda: error out if decoded CVPixelBuffer is empty

On some video samples, VDA silently fails to decode frames and returns
kVDADecoderNoErr. Error out in these cases to avoid producing AVFrames with
empty planes.

Signed-off-by: Stefano Pigozzi <stefano.pigozzi@gmail.com>

ffv1: const correctness for encode_rgb_frame()

libavcodec/ffv1enc.c:922:53: warning: passing argument 5 of ‘encode_rgb_frame’ discards ‘const’ qualifier from pointer target type

ffv1: Drop unnecessary casts and const qualifiers to match function signatures

libavcodec/ffv1dec.c:898:36: warning: cast discards ‘const’ qualifier from pointer target type

swscale: check memory allocations

CC: libav-stable@libav.org
Bug-Id: CID 1257779

libavfilter/vf_blend: do not unconditionally compile both filters

Signed-off-by: Paul B Mahol <onemda@gmail.com>