adpcmdec: remove unneeded zeroing of *data_size

dnxhdenc: fixed signed multiplication overflow

The low 32 bits of a multiplication are the same for signed
and unsigned operands.  Casting to unsigned before multiplying
is thus equivalent while avoiding signed overflow, which is
undefined by the C99 standard.

Signed-off-by: Mans Rullgard <mans@mansr.com>

proresdsp: fix function prototypes.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

prores-idct: fix overflow in c code.

Fix the fate ref for prores-422_proxy by reverting the changes to it
in commit f492df0927c42da174edb674857670fc50abc5dc

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

fate: update prores-alpha ref after changing pix_fmt to yuv444p10le

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

prores: add missing feature warning for alpha

mov: 10l: Terminate string with 0 not '0'

mov: Prevent illegal writes when chapter titles are very short.

prores: add appropriate -fix_fmt parameter to FATE command

Also correct CRCs for Sequence_1-Apple_ProRes_422_Proxy.mov, previous
CRCs were generated with the non-bitexact x86_64 assembler IDCT.

riff: always generate a proper WAVEFORMATEX structure in ff_put_wav_header

The cbSize field should be included in all cases, even with PCM where
its value is ignored.

Fixes encoding PCM audio in Matroska for some players which insist on
a full WAVEFORMATEX structure for A_MS/ACM audio.

Since fate uses wav files for the audio test a larger number of tests
has changed checksums or shifted positions due to the 2 byte longer
wave header.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

lavc: add a flag-based error_recognition field to AVCodecContext and deprecate non-flag-based ER field

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavc: rename deprecation symbol FF_API_VERY_AGGRESSIVE to FF_API_ER

Signed-off-by: Anton Khirnov <anton@khirnov.net>

prores: add FATE tests

id3v2: reduce the scope of some non-globally-used symbols/structures

id3v2: cosmetics: move some declarations before the places they are used

shorten: remove the flush function.

The shorten decoder does not support seeking.

shn: do not allow seeking in the raw shn demuxer.

The demuxer does not read the seektable, a parser is not possible without a
full decode, and no shorten decoder can handle random seeking because it needs
side info from the seektable.

avformat: add AVInputFormat flag AVFMT_NO_BYTE_SEEK.

This will prevent seeking by bytes for formats that cannot handle this.

avformat: update AVInputFormat allowed flags

avformat: don't unconditionally call ff_read_frame_flush() when trying to seek.

This prevents flushing the packet buffer when the input format does not
support seeking.

truespeech: use sizeof() instead of hardcoded sizes

truespeech: remove unneeded variable, 'consumed'

increment the 'buf' pointer instead, and consume the whole packet.

truespeech: simplify truespeech_read_frame() by using get_bits()

truespeech: decode directly to output buffer instead of a temp buffer

truespeech: check to make sure channels == 1

truespeech: check for large enough output buffer rather than truncating output

truespeech: remove unneeded zero-size packet check.

This is already checked in avcodec_decode_audio3()

mlpdec: return meaningful error codes instead of -1

mlpdec: remove unnecessary wrapper function

mlpdec: only calculate output size once

mlpdec: validate that the reported channel count matches the actual output
channel count

pcm: reduce pointer type casting

Making 'samples' a pointer to uint8_t simplifies the DECODE
macro and reduces the amount of type casting overall.

This also fixes some signed overflows on left shift.

Signed-off-by: Mans Rullgard <mans@mansr.com>

mathops: remove undefined behaviour from sign_extend()

This function intentionally overflows the signed range on
the left shift.  Using this type-punning avoids errors from
the overflow checker without disabling this test globally.

Signed-off-by: Mans Rullgard <mans@mansr.com>

vc1: explicitly zero interlaced mode coding variables for progressive mode

Both v->fcm and v->field_mode are used in common code, now they won't be
reset for progressive frame after interlaced one causing writing past the
frame end for example.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

tiffenc: initialize forgotten avctx.

avplay: free the active audio packet at exit.

fixes a memleak

avplay: free rdft data used for spectrogram analysis.

fixes a memleak

log.h: make AVClass a named struct

'struct AVClass' is used in the code since
641c7afe3c17334b81e3e2eef88f1751eb68f89f, but AVClass is typedeffed as
an anonymous struct.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

fix ac3 encoder documentation

some of the mode values were reversed

vc1: more prettyprinting cosmetics

Signed-off-by: Diego Biurrun <diego@biurrun.de>

vc1: prettyprint some tables

Signed-off-by: Diego Biurrun <diego@biurrun.de>

vc1: K&R formatting cosmetics

Signed-off-by: Diego Biurrun <diego@biurrun.de>

AVOptions: bump minor and add APIchanges entry.

cmdutils/avtools: simplify show_help() by using av_opt_child_class_next()

AVOptions: rename FF_OPT_TYPE_* => AV_OPT_TYPE_*

Remove all uses of deprecated AVOptions API.

AVOptions: add av_opt_next, deprecate av_next_option.

Just for naming consistency, no functional changes.

AVOptions: add functions for evaluating option strings.

AVOptions: split get_number().

Split actual writing to read_number() in the same way as write_number().
Allows set_string_number() to write to a caller-provided destination.

AVOptions: add av_opt_get*, deprecate av_get*.

New functions can get values from child objects, properly report error
codes and have consistent naming and signatures.

AVOptions: add av_opt_set*().

Deprecate av_set_*

New functions support setting values on children, return error codes
instead of options and have consistent naming and signatures.

AVOptions: add new API for enumerating children.

This will allow the caller to enumerate child contexts in a generic way
and since the API is recursive, it also allows for deeper nesting (e.g.
AVFormatContext->AVIOContext->URLContext)

This will also allow the new setting/reading API to transparently apply
to children contexts.

rv34: move inverse transform functions to DSP context

flvenc: Write the right metadata entry count

No application rely on this count being correct as far as
I know, but if we write a nonzero count value, it might just
as well be the right one.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtsp: Request that dynamic rate is disabled

DSS enables this automatically if streaming VOD over TCP. If
enabled, the server feeds packets faster than realtime, screwing
up RTCP NTP based timestamps.

Also, DSS doesn't indicate that this was indicated, if it was
enabled automatically (although if it was requested to be enabled,
a header saying that it was enabled is added, but this isn't
added if it is enabled automatically), making it even harder
to detect and work around properly without explicitly asking
for it to be disabled(/enabled, if we were able to support it).

Signed-off-by: Martin Storsjö <martin@martin.st>

rtsp: Parse the x-Accept-Dynamic-Rate header

Signed-off-by: Martin Storsjö <martin@martin.st>

rtpdec: Add ff_ prefix to all nonstatic symbols

Signed-off-by: Martin Storsjö <martin@martin.st>

h264: change unsupported bit depth message to error level

Unsupported bit depth is certainly an error the user will
want to know about.

Signed-off-by: Mans Rullgard <mans@mansr.com>

rtpdec: Read the packet length for all RTCP packet types

This allows skipping past unsupported RTCP packet types, as
RFC 3550 section 6.1 mandates.

Currently this only has any practical effect if a sender puts
an unrecognized type before RTCP_BYE in a compounded packet, or
(incorrectly) does not put RTCP_SR first.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtpdec: Fix the minimum packet length for RTCP SR packets

We actually read 20 bytes of these packets.

Signed-off-by: Martin Storsjö <martin@martin.st>

qdm2: fix signed multiplication overflow

This code relies on the result wrapping as for unsigned
values, and the sign is not used.  Thus an unsigned type
is proper here.

Signed-off-by: Mans Rullgard <mans@mansr.com>

flvdec: Don't export metadata entries that aren't proper metadata

This avoids writing these entries doubly if transcoding from
flv to flv, since the muxer blindly writes any and all metadata
keys set, in addition to the fixed fields that the muxer
always writes.

Signed-off-by: Martin Storsjö <martin@martin.st>

flvdec: Split out setting of numeric fields from storing metadata

Signed-off-by: Martin Storsjö <martin@martin.st>

libx264: support yuv422/444 output.

sws: support yuv444p9/10 output.

fix AC3ENC_OPT_MODE_ON/OFF

The values were reversed.

Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

h264: fix HRD parameters parsing

The bit_rate_value_minus1 and cpb_size_value_minus1 elements
allow a wider range than get_ue_golomb() supports.  This
adds a get_ue_golomb_long() function supporting up to 31
leading zeros, which is the maximum for these syntax
elements, and uses it in decode_hrd_parameters().

Signed-off-by: Mans Rullgard <mans@mansr.com>

prores: implement multithreading.

60% speedup (overall decoding time) at 2 threads, and another 60%
speedup at 4 threads.

prores: idct sse2/sse4 optimizations.

~3.0-3.5x as fast as original C version, 1.6x as fast overall.

swscale: use aligned move for storage into temporary buffer.

The intermediate buffer is always aligned.

prores: extract idct into its own dspcontext and merge with put_pixels.

h264: fix invalid shifts in init_cavlc_level_tab()

The level_code expression includes a shift which is invalid in
those cases where the value is not used.  Moving the calculation
to the branch where the result is used avoids these.

Signed-off-by: Mans Rullgard <mans@mansr.com>

intfloat_readwrite: fix signed addition overflows

These additions might overflow the signed range for large
input values.  Converting to unsigned before the addition
rather than after avoids such undefined behaviour.  The
result under normal two's complement wraparound remains
unchanged.

Signed-off-by: Mans Rullgard <mans@mansr.com>

mov: do not misreport empty stts

Return -1 instead of ENOMEM if entries is 0.
Fixes a av_malloc(0) crash in macosx.

mov: cosmetics, fix for and if spacing

id3v2: fix NULL pointer dereference

Bug found by Laurent Aimar fenrir at videolan org

mov: read album_artist atom

Signed-off-by: Anton Khirnov <anton@khirnov.net>

mov: fix disc/track numbers and totals

Signed-off-by: Anton Khirnov <anton@khirnov.net>

doc: fix references to obsolete presets directories for avconv/ffmpeg

flashsv: return more meaningful error value

flashsv: fix typo in av_log() message

smacker: validate channels and sample format.

smacker: check buffer size before reading output size

smacker: validate number of channels

smacker: Separate audio flags from sample rates in smacker demuxer.

Makes the code easier to understand.

h264: fix detection of optional trailing PPS elements

The PPS may contain a few trailing elements whose presence is
only signalled by data remaining after the the mandatory part
has been parsed.  The current code fails to take into account
the rbsp_trailing_bits() when deciding whether to parse these
optional elements.  Assuming no unnecessary padding bytes are
passed to this function, the optional elements are present if
either more than 8 extra bits remain or the remaining bits do
not form a valid rbsp_trailing_bits() after the mandatory PPS
elements have been parsed.

Signed-off-by: Mans Rullgard <mans@mansr.com>

sipr: fix get_bits(0) calls

Zero-length get_bits() is undefined, must check before calling.

Signed-off-by: Mans Rullgard <mans@mansr.com>

motion_est: make MotionExtContext.map_generation unsigned

The way this value is used, it should be an unsigned type.
While the numerical value has no meaning, unsigned wraparound
is relied upon.

Signed-off-by: Mans Rullgard <mans@mansr.com>

h264: reset h->ref_count in case of errors in ff_h264_decode_ref_pic_list_reordering()

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

error_resilience: fix the check for missing references in ff_er_frame_end() for H264

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

4xm: prevent NULL dereference with invalid huffman table

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

4xmdemux: prevent use of uninitialized memory

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

4xm: clear FF_INPUT_BUFFER_PADDING_SIZE bytes in temporary buffers

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

ptx: check for out of bound reads

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

tiffdec: fix out of bound reads/writes

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

eacmv: check for out of bound reads

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

eacmv: fix potential pointer arithmetic overflows

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

adpcm: fix out of bound reads due to integer overflow

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

anm: prevent infinite loop

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

avsdemux: check for out of bound writes

Signed-off-by: Janne Grunau <janne-libav@jannau.net>