h263dec: disable coded dimensions = 0 handling

This code causes infinite loops

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '581281e242609a222233a2e5538b89dfb88fb18e'

* commit '581281e242609a222233a2e5538b89dfb88fb18e':
  matroskadec: check realloc in lzo encoding
  matroska: honor error_recognition on unknown doctypes
  tiffdec: Add support for GRAY16LE.
  tiffenc: Add support for little endian RGB48 and GRAY16
  mpeg4: support frame parameter changes with frame-mt
  mpegvideo: check ff_find_unused_picture() return value for errors
  mpegvideo: release frame buffers before freeing them
  configure: msvc: default to 'lib' as 'ar' tool
  build: support some non-standard ar variants

Conflicts:
libavcodec/h263dec.c
libavcodec/mpegvideo.c
libavcodec/tiff.c
libavcodec/tiffenc.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

mxfenc: support 23.976 and 24 frame rates

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mxfenc: factorize samples per frame code

Reviewed-by: Tomas Härdin <tomas.hardin@codemill.se>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

j2k: fix "static is not at beginning of declaration" warning

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

configure: Detect old git domain and inform the user about it.

Based on code by: Clément Bœsch <ubitux@gmail.com>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mov: fix 32/64 format type

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

dcadec: fix "set but not used" variable

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libavfilter/filtfmts: fix argv/argc checks

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

bavfilter/filtfmts: fix type for channel layouts

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

av_des_init: suppress warning about unused parameter

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

matroskadec: check realloc in lzo encoding

Make all the compression encodings behave the same way.

matroska: honor error_recognition on unknown doctypes

tiffdec: Add support for GRAY16LE.

Tested with the GraphicsMagick TIFF archive and Libav generated files.

tiffenc: Add support for little endian RGB48 and GRAY16

mpeg4: support frame parameter changes with frame-mt

Adds a flag context_reinit to MpegEncContext to relieable keep track
of frame parameter changes which require a context reinitialization.
This is required for broken inputs which change the frame size but
error out before the context can be reinitialized.

mpegvideo: check ff_find_unused_picture() return value for errors

mpegvideo: release frame buffers before freeing them

Fixes triggering an assert in avcodec_default_release_buffer()
introduced in 1b3439b30.

avutil: Cast AV_NOPTS_VALUE to int64_t explicitly

Thus comparsion against int64_t value will not raise warning
(from -Wextra set) about comparsion of unsigned and signed integer

commiter added () and changed the litteral to unsigned

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

wmavoice: initialize best_hist_ptr to NULL to prevent (incorrect) warning.

As a sideeffect this makes the code more robust if a future change leaves
a path where it may be uninitialized otherwise.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  rv34: use ff_MPV_common_frame_size_change()
  mpegvideo: add reinit function for frame parameter changes

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '1b3439b3055b083df51d7f7838ecc6b3f708b15c'

* commit '1b3439b3055b083df51d7f7838ecc6b3f708b15c':
  mpegvideo: move frame size dependent memory management to separate functions
  configure: add --toolchain option
  configure: Make the smoothstreaming muxer enable the ismv muxer
  smoothstreaming: Export the mp4 codec tags
  mov: check for EOF in long lasting loops
  avcodec: cleanup utils.c
  binkaudio: remove unneeded GET_BITS_SAFE macro
  binkaudio: use float sample format
  binkaudio: use a different value for the coefficient scale for the DCT codec

Conflicts:
configure
libavcodec/mpegvideo.c
libavcodec/utils.c
libavformat/Makefile

Merged-by: Michael Niedermayer <michaelni@gmx.at>

configure: msvc: default to 'lib' as 'ar' tool

Signed-off-by: Mans Rullgard <mans@mansr.com>

build: support some non-standard ar variants

This adds support for the TI and Microsoft (lib.exe) variants of
the ar utility.

Signed-off-by: Mans Rullgard <mans@mansr.com>

doc/filters: clarify use of graph2dot

The GRAPH_DESCRIPTION string supplied to graph2dot must include explicitly
defined inputs and outputs which are not normally part of the command line
used in a real invocation.

This clarifies that requirement, and provides an example.

Signed-off-by: Stefano Sabatini <stefasab@gmail.com>

ffprobe: fix CSV writer output

Fix regression introduced in 749ddc14fc9ebcef09965dfd98c8bf2505dc3b58.

rv34: use ff_MPV_common_frame_size_change()

Specialised functionality for size changes with the advantage of
supporting frame size changes during frame-based multithreading.

mpegvideo: add reinit function for frame parameter changes

This is mainly required for frame parameter changes during frame based
multithreading but single threaded usage profits too from avoiding
ff_MPV_common_end()/ff_MPV_common_init() cycles.

mpegvideo: move frame size dependent memory management to separate functions

This is a preparation for supporting frame size changes during
frame-based multithreading.

Fix segfault with -filters option

Filters now use null pointers to indicate having no input/output pads,
rather than empty lists of pads. We can't assume pad is non-null
anymore.

Signed-off-by: Bobby Bingham <uhmmmm@gmail.com>

ffserver: fix typo in log message

Signed-off-by: Bobby Bingham <uhmmmm@gmail.com>

configure: add --toolchain option

This allows creating canned shorthands for common combinations
of cc, ld etc.

Signed-off-by: Mans Rullgard <mans@mansr.com>

avidec: workaround aac with broken block align

Fixes Ticket1742

Based on patch by: Nikola Vranic <nikola.vranic@rt-rk.com>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ffprobe: Add a few common disposition cases

This info is crucial in knowing which stream to pick in an
automated setup.

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

lavfi/select: make sure avctx is set before closing it.

This avoid a crash when the filter fails before config_input(),
typically with a syntax error in the next filter:
    select=gt(scene\,.4),select=fail

Silence warning C4554 when compiling with msvc.

warning C4554: '>>' : check operator precedence for possible error; use parentheses to clarify precedence

Reviewed-by: Derek Buitenhuis

sonic: factorize tail_size

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

sonicenc: limit quant so that golomb codes are less than 32 bits long

before they could become 33 bits

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

configure: Make the smoothstreaming muxer enable the ismv muxer

This doesn't fix any build failure, but the smoothstreaming muxer
opens a chained ismv muxer.

Signed-off-by: Martin Storsjö <martin@martin.st>

smoothstreaming: Export the mp4 codec tags

This fixes stream copy from a format that already has incompatible
codec tags set. The chained ismv muxer exports this same codec tag
list, so set it on this one as well, to allow the caller (and
lavf common code) to set them correctly.

Signed-off-by: Martin Storsjö <martin@martin.st>

x86/mpegaudiodec: drop likely now unneeded #if HAVE_AVX_EXTERNAL

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mpegaudiodec: add prototypes for all functions that may need them

fixes compile failure

Found-by: kriegerod
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

allcodecs: re-enable sonic

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

sonic: update to encode2() API

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mov: check for EOF in long lasting loops

A quite widespread pattern in the demuxer is read a 32bit unsigned
integer and then loop till this value is reached.

Checking for EOF prevents pathological situations.

avcodec: cleanup utils.c

binkaudio: remove unneeded GET_BITS_SAFE macro

Normal get_bits() already has overread protection.

binkaudio: use float sample format

Use planar for DCT codec, interleaved for RDFT codec.

binkaudio: use a different value for the coefficient scale for the DCT codec

Eliminates the need for vector_fmul_scalar() in each frame.

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  flvenc: silence bogus warning
  configure: include flags in nm variable
  alsdec: fix misplaced parentheses.
  alsdec: check return values.
  alsdec: fix number of decoded samples in first sub-block in BGMC mode.
  alsdec: Fix out of ltp_gain_values read.
  alsdec: Check that quantized parcor coeffs are within range.
  alsdec: check opt_order.

Conflicts:
configure
libavcodec/alsdec.c
libavformat/flvenc.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '23aae62c2cb4504a09ceb8cd0cabc1c8b260f521'

* commit '23aae62c2cb4504a09ceb8cd0cabc1c8b260f521':
  alsdec: Check k used for rice decoder.
  avfiltergraph: silence an uninitialized variable warning
  xsubenc: reindent
  lavc: replace AVCodecContext.encode with subtitle-specific callback
  lavc: add const to private codec class initialization.
  avconv: don't pass a bogus parameter to avfilter_graph_create_filter().
  id3v2: strdup the genre name explicitly.
  lavf/id3v2: do not export empty fields.
  buffersrc: add const to the AVFrame* argument of av_buffersrc_write_frame()
  lavfi: replace empty input/output lists with null pointers

Conflicts:
ffmpeg_filter.c
libavcodec/alsdec.c
libavcodec/dvdsubenc.c
libavcodec/utils.c
libavcodec/v210dec.h
libavfilter/af_channelsplit.c
libavfilter/avfiltergraph.c
libavfilter/buffersrc.c
libavfilter/src_movie.c
libavfilter/vf_ass.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

targaenc: Use named TGA_RLE constant instead of magic number

Fix typo in targa encoder comment

flvenc: silence bogus warning

The compiler fails to figure out that enc->codec_type can only
have 3 different values.
Thus when an if/else is encountered it triggers on the possibility
of the else case has not initialized the flags variable.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

doc: fix typos in filter documentation

Signed-off-by: Bobby Bingham <uhmmmm@gmail.com>

dsputil: change assert(8) to av_assert2(8)

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

swscale: change assert() to av_assert()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

nsvdec: change 2 commented assert() to av_assert()

they keep showing up if i grep for non av assert()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

get_cabac_inline_x86: workaround clang bug with disabled optimizations

gcc produces binary identical output relative to before this change

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

configure: include flags in nm variable

This simplifies ensuring proper flags are used when the default
is overridden by the system or on the command line.

Signed-off-by: Mans Rullgard <mans@mansr.com>

When copying pkt side_data, don't forget size, type

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libx264: feed x264_param_apply_profile from AVCodecContext.profile in absence of other information

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libx264: connect AVCodecContext.rtp_payload_size to x264_params_t.i_slice_max_size

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Remove code that duplicates existing code a few lines down.

This also fixes a potential crash since s->pb can be NULL.

Signed-off-by: Reimar Döffinger <Reimar.Doeffinger@gmx.de>

dirac_arith: Fix unprotected inline asm

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

alsdec: fix misplaced parentheses.

Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

alsdec: check return values.

Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

alsdec: fix number of decoded samples in first sub-block in BGMC mode.

Fixes CVE-2012-2790

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

alsdec: Fix out of ltp_gain_values read.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

alsdec: Check that quantized parcor coeffs are within range.

ALS spec:
11.6.3.1.1 Quantization and encoding of parcor coefficients
...
In all cases the resulting quantized values ak are restricted to the range [-64,63].

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

alsdec: Check k used for rice decoder.

Values that fail this check will cause failure of decode_rice()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

alsdec: check opt_order.

Fixes out of array write in quant_cof.
Also make sure no invalid opt_order stays in the context.

Fixes CVE-2012-2775

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

avfiltergraph: silence an uninitialized variable warning

The warning is:
libavfilter/avfiltergraph.c: In function ‘avfilter_graph_config’:
libavfilter/avfiltergraph.c:528:9: warning: ‘best_idx’ may be used uninitialized in this function [-Wuninitialized]
libavfilter/avfiltergraph.c:479:13: note: ‘best_idx’ was declared here

Initialize it to an invalid value and add an assert that it's properly
set later.

xsubenc: reindent

lavc: replace AVCodecContext.encode with subtitle-specific callback

AVCodecContext.encode is currently used only for subtitles, encode2 is
used for audio and video.

lavc: add const to private codec class initialization.

Silences a warning about discarding const.

avconv: don't pass a bogus parameter to avfilter_graph_create_filter().

The buffer sink does not take any parameters.

Fixes an uninitialized variable warning.

id3v2: strdup the genre name explicitly.

It would have been done anyway in the av_dict_set() call.

This simplifies the code and avoid a warning because of assigning a
const string from ff_id3v1_genre_str to a non-const variable.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavf/id3v2: do not export empty fields.

This also avoids a memleak.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

buffersrc: add const to the AVFrame* argument of av_buffersrc_write_frame()

lavfi: replace empty input/output lists with null pointers

Signed-off-by: Mans Rullgard <mans@mansr.com>

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  avconv: flush filtered frames before reconfiguring filters
  mov: stsd entries must be at least 16 byte
  mov: detect EOF in mov_read_dref()
  file: return proper error on seek failures

Conflicts:
libavformat/file.c
libavformat/mov.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

fate: add av_small_strptime() test to fate-parseutils

lavu/parseutils: fix av_small_strptime() whitespace directive parsing

According to POSIX, strptime() should consume whitespaces in the date
string everytime a whitespace conversion specification is found in the
date format specification. Make av_small_strptime() conform with this
behavior.

In particular, should fix trac ticket #1739.

avconv: flush filtered frames before reconfiguring filters

This prevents lost frames after a resolution change.

Merge remote-tracking branch 'cus/stable'

* cus/stable:
  ffplay: dont wait 100ms if data is not yet ready

Merged-by: Michael Niedermayer <michaelni@gmx.at>

ffplay: dont wait 100ms if data is not yet ready

Also signal the wait if audio buffer is empty. This fixes jerky audio with
realtime sources.

Signed-off-by: Marton Balint <cus@passwd.hu>

arm/dca: Fix compilation of decode_blockcodes() with --enable-thumb

Fix Suggested-by: Reimar
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

lavf/oggdec: reword stream creation error message.

lavf/oggdec: reindent and comment blocks.

lavf/oggdec: make stream replacement less convoluted.

Also re-use the allocated buffer instead of re-allocating a new one.

lavf/oggdec: more explicit zeroing of the new ogg stream.

lavf/oggdec: rework allocations in ogg_new_streams().

mov: stsd entries must be at least 16 byte

Fix near infinite loop in stsd parsing.
Bug found by: Diana Elena Muscalu

The size is unsigned according the specification.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

lavf/oggdec: simplify destroying streams with chained audio streams.

nstreams is assumed to be 1 at that point, so the loop is pointless.

lavf/oggdec: rename str to sid.

"str" is misleading here (it's often used for string). "sid" makes more
sense to identify a stream id.

lavf/oggdec: remove a comment not matching anything.

lavf/oggdec: inline ogg_get_headers().

There is no point in a distant definition of a small function like this
used only once.

Additional spacing to distinguish better the block.

vda_h264.c: Change header inclusion order.

Fixes compilation with XCode 3.2.6.
Fixes ticket #1736.

Mentioning 8bps once in the FFmpeg documentation is sufficient.