FATE: add a tscc2 test.

tscc2: allocate AVFrame properly.

af_asyncts: fix compensation and PTS monotonicity

This patch improves af_asyncts behavior on streams with bogus PTS, which
are either non-monotonic, or contain PTS jitter, and trigger the
non-monotonicity error. With this patch, af_asyncts is able to correct
these streams and avoid the error.

Firstly, it fixes resample compensation calculation by supplying proper
units to avresample_set_compensation (sample count per second instead
of sample count per some arbitrary frame size). Also, the calculation of
the compensation itself is fixed - delta is proportional to an adjustment
of the compensation, not the compensation itself. Ideally, the compensation
should converge to a value that keeps delta at zero.

To be able to deal with sources with PTS jitter even without resampling,
small PTS errors are adjusted, so the output frames do not overlap.

Finally, one more monotonicity check is added.

The FATE reference changes because now there is 8 less samples of
silence because of the pts jitter.

Signed-off-by: Jindřich Makovička <makovick@gmail.com>

avutil/frame: add all remaining frame properties to av_frame_copy_props

Signed-off-by: Anton Khirnov <anton@khirnov.net>

configure: Enable hwaccels without external dependencies by default.

doc/developer: Clarify symbol naming prefixes section.

h264: remove redundant freeing of DPB in h264_decode_end

free_tables() frees it already.

h264: add a parameter to the CHROMA444 macro.

This way it does not look like a constant.

h264: add a parameter to the CHROMA422 macro.

This way it does not look like a constant.

h264: add a parameter to the CABAC macro.

This way it does not look like a constant.

h264: add a parameter to the FIELD_OR_MBAFF_PICTURE macro.

This way it does not look like a constant.

h264: add a parameter to the FIELD_PICTURE macro.

This way it does not look like a constant.

h264: add a parameter to the FRAME_MBAFF macro.

This way it does not look like a constant.

h264: add a parameter to the MB_FIELD macro.

This way it does not look like a constant.

h264: add a parameter to the MB_MBAFF macro.

This way it does not look like a constant.

h264: merge common_init() into ff_h264_decode_init.

There is no point in keeping those separate.

h264: make ff_h264_frame_start static.

It is not called from outside h264.c

fate: add tests for h264 decoder reinit

h264: fix bit depth changes with frame threading

AVCodecContext.bits_per_raw_sample is updated from the previous thread
in the generic update function before the codec specific update_thread
function is called. The check for reinitialization of dsp functions uses
bits_per_raw_sample. When called from update_thread_context it will be
already at the current value and the dsp functions aren't updated if
only the bit depth changes.

rtmp: Pass the parameters to do_adobe_auth in the right order

do_adobe_auth takes the parameters in the order "opaque, challenge".

Due to the way they are treated, this didn't matter in the tested
setups though - if both are set, we only use one. In the tested
setups (Wowza and Akamai) either one of them were null or they
were both set to the same value, which is why this worked before.

Signed-off-by: Martin Storsjö <martin@martin.st>

mpegvideo: allocate hwaccel privdata after the frame buffer

This ensures the hwaccel privdata does not leak when a frame buffer could
not be allocated (and toggle the assert when the frame is re-used).
Having no frame buffer available is quite common when using the DXVA2
hwaccel in situations where the DXVA2 renderer is being re-allocated, for
example when moving between displays.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

h264: allocate hwaccel privdata after the frame buffer

This ensures the hwaccel privdata does not leak when a frame buffer could
not be allocated (and toggle the assert when the frame is re-used).
Having no frame buffer available is quite common when using the DXVA2
hwaccel in situations where the DXVA2 renderer is being re-allocated, for
example when moving between displays.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

pthread: unref already decoded frames when flushing the decoder

Signed-off-by: Anton Khirnov <anton@khirnov.net>

mpegvideo: fix allocation of the hwaccel_picture_private data

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavc: update the doxy for avcodec_decode_{video,audio} wtih refcounting.

buffersrc: fix a typo.

Vertical shift is log2_chroma_h, not log2_chroma_w.

lavc, lavfi: fix counting number of planes in AVBufferRef wrappers

Number of planes is not always equal to the number of components even
for formats marked with PIX_FMT_PLANAR -- e.g. NV12 has three components
in two planes.

pixdesc: add a function for counting planes in a pixel format.

avplay: remove the -debug option.

It just shadows the corresponding AVOption and prevents using named
constants.

Revert "asfenc: return error on negative timestamp"

This reverts commit d1bec33b46091546c5b2e6815210e73f87abf413, it breaks
FATE.

print_options: do not generate docs for options without enc or dec flags

Those are not usable from the avtools, so mentioning them in the
manpages just confuses the reader.

mpeg12: do not fail on zero dimensions in the sequence header.

The total frame size is a combination of the 12 bits in the sequence
header and 2 more bits in the the sequence extension. While the
specification explicitly forbids the dimensions from the sequence header
from being 0 (thus ruling out multiples of 4096), such videos
apparrently exist in the wild so we should attempt to decode them.

Based on a patch by Michael Niedermayer <michaelni@gmx.at>

Fixes Bug 416.

iff: validate CMAP palette size

Fixes CVE-2013-2495

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>
CC: libav-stable@libav.org

asfenc: return error on negative timestamp

According to the specification the timestamp is represented by a 32bit
unsigned.

CC: libav-stable@libav.org

lavc,lavfi: fix calculating the plane size in the AVBufferRef wrappers

It is supposed to be height * linesize, not width * linesize.
Thanks to Hendrik Leppkes for pointing out the bug.

document the release process

af_join: do not leak input frames.

asrc_anullsrc: return EOF, not -1

asrc_anullsrc: do not set samplerate and channel layout explicitly

They are auto-negotiated.

vf_showinfo: remove its useless init function

Filter private data is memset to 0 so there is no point in explicitly
initing anything to 0.

AVOptions: fix using named constants with child contexts.

The named constant needs to be searched for in the same object on which
the option is set, i.e. target_obj.

AVOption: remove an unused function parameter.

filters.texi: restore mistakenly removed section name for noformat

avfiltergraph: use sizeof(var) instead of sizeof(type)

avfiltergraph: replace AVFilterGraph.filter_count with nb_filters

This is more consistent with the naming in the rest of Libav.

lavfi: use designated initializers in avfilter_class

lavf: sanity check size in av_get/append_packet().

To avoid allocating ridiculous amounts of memory for corrupted files,
read the input in chunks limited to filesize or an arbitrary large
amount when that is not known (chosen to be 50M).

lzo: fix overflow checking in copy_backptr()

The check `src > dst' in the form `&c->out[-back] > c->out' invokes
pointer overflow, which is undefined behavior in C.

Remove the check.  Also replace `&c->out[-back] < c->out_start' with
a safe form `c->out - c->out_start < back' to avoid overflow.

CC: libav-stable@libav.org
Signed-off-by: Xi Wang <xi.wang@gmail.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

flacdec: simplify bounds checking in flac_probe()

Simplify `p->buf > p->buf + p->buf_size - 4' as `p->buf_size < 4'.
Avoid a possible out-of-bounds pointer, which is undefined behavior
in C.

CC: libav-stable@libav.org
Signed-off-by: Xi Wang <xi.wang@gmail.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

atrac3: avoid oversized shifting in decode_bytes()

When `off' is 0, `0x537F6103 << 32' in the following expression invokes
undefined behavior, the result of which is not necessarily 0.

    (0x537F6103 >> (off * 8)) | (0x537F6103 << (32 - (off * 8)))

Avoid oversized shifting.

CC: libav-stable@libav.org
Signed-off-by: Xi Wang <xi.wang@gmail.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

add support for Monkey's Audio versions from 3.93

ape: provide two additional bytes in buffer for old MAC versions

Range coder in 3.90-3.95 overread two bytes in the final normalize.

ape: make version-dependent decoding functions called via pointers

This will help in supporting old versions, e.g. version 3.93 uses the same
range coder but different predictor and version 3.82 uses different range
coder and predictor. Also this should not make decoding newer versions slower
by introducing additional checks on versions.

mpegts: add support for stream_type 0x42, which is CAVS

This allows demuxing and muxing of CAVS TS streams.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

avconv: mark attachment streams as immediately finished

There are never any packets for those streams.
Fixes an infinite loop with -attach.

vaapi: fix argument for ff_vaapi_common_end_frame call

avcodec: av_log_missing_feature(1) ---> avpriv_request_sample()

avcodec: av_log_ask_for_sample() ---> avpriv_request_sample()

rsodec: Use avpriv_report_missing_feature() where appropriate

avformat: av_log_ask_for_sample() ---> avpriv_request_sample()

av_log_missing_feature() ---> avpriv_report_missing_feature()

Add av_log_{ask_for_sample|missing_feature} replacements to libavutil

This allows reporting missing features and requesting samples from
all libraries in a standard way; with a simplified API.

ismindex: Check the return value of allocations

Signed-off-by: Martin Storsjö <martin@martin.st>

ismindex: Factorize code for printing chunk duration lists

Signed-off-by: Martin Storsjö <martin@martin.st>

ismindex: Rename structs and fields from "file" to "track"

The tool nowadays supports more than one track per file,
this makes reading the code slightly less confusing.

Signed-off-by: Martin Storsjö <martin@martin.st>

avpacket: copy side data type and size in av_dup_packet

hqdn3d: Fix out of array read in LOWPASS

CC:libav-stable@libav.org
Signed-off-by: Anton Khirnov <anton@khirnov.net>

cabac: remove unused argument of ff_init_cabac_states()

Signed-off-by: Anton Khirnov <anton@khirnov.net>

rawdec: fix a typo -- || instead of |

Signed-off-by: Anton Khirnov <anton@khirnov.net>

matroskadec: request a read buffer for the wav header

Solve an infiniloop.

CC: libav-stable@libav.org

dsputil: convert remaining functions to use ptrdiff_t strides

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

Add informative messages to av_log_ask_for_sample calls lacking them

anm: Get rid of some very silly goto statements

vda: remove async decoder leftovers

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

avframe: call release_buffer only if it is set

AVCodecContext release_buffer() shall be NULL for audio codecs using
get_buffer. The backward compatibility code hence have to check before
calling it.

pthread: unref the decoded but not returned frames on close.

Fixes memleaks when frame mt is used and the decoder is not flushed at
the end.

h264: check that DPB is allocated before accessing it in flush_dpb()

vf_hqdn3d: fix uninitialized variable use

CC:libav-stable@libav.org

vf_gradfun: fix uninitialized variable use

CC:libav-stable@libav.org

h264_refs: cosmetics, reformat

h264: remove a useless svq3 condition

The svq3 decoder does not call ff_h264_frame_start() anymore.

mpegvideo: remove FMT_H264

mpegvideo: reindent

mpegvideo: remove useless references to h264 and svq3

The h264 decoder does not use mpegvideo anymore. The svq3 decoder only
uses ff_draw_horiz_band().

lavf: remove disabled FF_API_R_FRAME_RATE cruft

lavf: remove disabled FF_API_AV_GETTIME cruft

lavf: remove disabled FF_API_INTERLEAVE_PACKET cruft

lavf: remove disabled FF_API_READ_PACKET cruft

lavf: remove disabled FF_API_APPLEHTTP_PROTO cruft

lavf: remove disabled FF_API_CLOSE_INPUT_FILE cruft

lavc: remove disabled FF_API_IDCT cruft

lavc: remove disabled FF_API_SNOW cruft

lavc: remove disabled FF_API_MMI cruft

lavc: remove disabled FF_API_LIBMPEG2 cruft

lavc: remove disabled FF_API_AVCODEC_RESAMPLE cruft

atomic: prefer gcc builtins over win32 atomics, if available.

The mingw win32 atomics appear to be faulty, so they should not be used
if the gcc ones are available.

Signed-off-by: Martin Storsjö <martin@martin.st>

avframe: copy reordered_opaque in copy_props

Fixes video playback in applications still using reordered_opaque.

ra144: check buffer size before requesting a buffer

Return an error on incomplete frames.

wmapro: unref skipped frames

svq1: use av_frame_free to free refcounted frame

Fixes a memleak due to avcodec_free_frame not freeing the frame data.