Merge remote-tracking branch 'hexene/stagefright'

* hexene/stagefright:
  libstagefright: start decode_thread() only after decode_frame() is called at least once.
  libstagefright: mark the dummy frame as keyframe.
  libstagefright: limit the output queue size
  libstagefright: return EOS if CustomSource::read() is called after decode_thread() returns
  libstagefright: set the correct frame size

Merged-by: Michael Niedermayer <michaelni@gmx.at>

libstagefright: start decode_thread() only after decode_frame() is called at least once.

This prevents the situation where EOS is passed as the first frame to the
h/w decoder and thus avoids a potential crash.

libstagefright: mark the dummy frame as keyframe.

This makes sure decoder->read() returns if it is the first frame fed.

libstagefright: limit the output queue size

libstagefright: return EOS if CustomSource::read() is called after decode_thread() returns

libstagefright: set the correct frame size

swresample/rematrix: show matrix with debug log level

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  vp6: Reset the internal state when aborting key frames header parsing
  vp56: Release old pictures after a resolution changes
  vp6: Check for huffman tree build errors
  vp56: Check for missing reference frame data
  cinepak: Fix invalid read access on extra data
  vmd: fix segfaults on corruped streams
  cook: Fix js_vlc_bits value validation for joint stereo
  segafilm: Check for memory allocation failures in segafilm demuxer.
  segafilm: Fix potential division by 0 on corrupted streams in the demuxer
  Fixed segfault on corrupted sega streams in the demuxer.
  Fixed deference of NULL pointer in motionpixels decoder.
  libx264: support 9- and 10-bit output.
  h264: correct implicit_weight for field-interlaced pictures.
  mpegvideo: set correct offset for edge emulation buffer.
  mpegvideo: fix position of bottom edge.

Conflicts:
libavcodec/motionpixels.c
libavcodec/mpegvideo.c
libavcodec/version.h
libavcodec/vmdav.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

swresample: use av_get_default_channel_layout instead of guess_layout

Signed-off-by: Marton Balint <cus@passwd.hu>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avutil: bump minor version because of av_get_default_channel_layout type fix

Well, probably an ABI breakage at least for 32bit, but hopefully it will go
unnoticed because the fix happened realtively soon.

Signed-off-by: Marton Balint <cus@passwd.hu>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

audioconvert: fix type of av_get_default_channel_layout

Signed-off-by: Marton Balint <cus@passwd.hu>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

lavc: add ff_init_buffer_info()
Fixes seeking per fileposition in ffplay.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: reject unsupported 422 9 bit streams

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

audioconvert: make 7POINT1 channel layout the default for 8 channels

Signed-off-by: Marton Balint <cus@passwd.hu>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: fix the size of PPS::chroma_qp_table

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

vp6: Reset the internal state when aborting key frames header parsing

It prevents leaving the state only half initialized.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

vp56: Release old pictures after a resolution changes

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

vp6: Check for huffman tree build errors

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

vp56: Check for missing reference frame data

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

cinepak: Fix invalid read access on extra data

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

vmd: fix segfaults on corruped streams

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

cook: Fix js_vlc_bits value validation for joint stereo

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

segafilm: Check for memory allocation failures in segafilm demuxer.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

segafilm: Fix potential division by 0 on corrupted streams in the demuxer

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

h264: fix fill_colmap() to not store entries mbaff style when the reference is not mbaff at all

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fixed segfault on corrupted sega streams in the demuxer.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

Fixed deference of NULL pointer in motionpixels decoder.

Some of the arguments given to init_vlc() come from the stream
and can be corrupted.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

ffmpeg: make -a/v/sn work with -map

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

lavf/utils: document AVIndexEntry.timestamp

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

swresample: Try to handle cases with input channel count and layout mismatching.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

bintext: fix warning message wording.

vaapi: fix VC-1 decoding (reconstruct bitstream TTFRM correctly).

mpegps: drop incorrect line of sofdec detection

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mpeg1dec: More complete sofdec support

Fixes Ticket517

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libx264: support 9- and 10-bit output.

libmodplug: free file content buffer in read_close() callback.

libmodplug: add TODO entry for probing.

libmodplug: add metadata support.

libmodplug: add an option to enlarge the max supported file size.

libmodplug: support options (noise reduction, reverb, bass boost, ...)

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  Fix 'heigth' vs. 'height' typos.
  lavc/lavf: use unique private classes.
  lavc: use designated initializers for av_codec_context_class

Conflicts:
libavdevice/fbdev.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

ffmpeg: fix forced key frames.

Now that the option was moved in the per-stream context,
the parsing is done before the time_base for the stream is decided.
This patch does the parsing in AV_TIME_BASE units and rescales the
timestamps later when the correct time base is known.

Signed-off-by: Nicolas George <nicolas.george@normalesup.org>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

flvenc: Ignore metadata that has special values and is stored already based on
more correct values.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

swr-docs: update due to last change to swresample

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libswresample: support directly converting sampleformats and packed/planar in a single pass.

Previously a intermediate planar format was used when both input and output where packed.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

update_stream_timings: Remove redundant check.

Found-by:Nicolas
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libmodplug: handle EOF correctly.

Use WMAv2 as default audio codec for asf.

Use M4S2 as default video tag for MPEG-4 ASP in asf.

libmodplug: simplify and fix read_packet() callback.

In case of av_new_packet() error, a correct return error code is raised,
the data memcpy is avoided, and pkt dts/pts are not assigned anymore
(since the defaults are good).

libmodplug: consistent use of sizeof.

generic seeking: fail if there are 1000 non keyframes found with no keyframe.
This avoids scanning through a whole file just to fail.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: correct implicit_weight for field-interlaced pictures.

mpegvideo: set correct offset for edge emulation buffer.

Using the old code, half of it was unused and the other half was too
small for e.g. >8bpp interlaced data, causing random buffer overruns.

mpegvideo: fix position of bottom edge.

It was wrong in colorspaces where horizontal and vertical chroma
subsampling are not the same, e.g. 422.

Fix 'heigth' vs. 'height' typos.

lavc/lavf: use unique private classes.

This is needed by the new AVOptions API.

lavc: use designated initializers for av_codec_context_class

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  qcelpdec: cosmetics: do not add line break before opening bracket in 'for', 'while', 'if/else', and 'switch' statements.
  qcelp: check output buffer size before decoding
  qcelpdec: fix the return value of qcelp_decode_frame().
  sipr: fix the output data size check and only calculate it once.
  Synchronize various 4CCs and codec tags from FFmpeg.
  qdm2: check output buffer size before decoding
  Fix out of bound reads in the QDM2 decoder.
  Check for out of bound writes in the QDM2 decoder.
  ogg/celt: do not set sample_fmt in the demuxer

Conflicts:
libavcodec/avcodec.h
libavcodec/qdm2.c
libavformat/oggparsecelt.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

h264: remove assert() on ref_frame_count.

This assert can fail if a SPS with a smaller value becomes active.
Fixes Ticket532

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

configure: fix compilation without libmodplug

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: do not let invalid values in h->ref_count after a decoder reset.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: bit depth/chroma idc changes must go through a full format negociation.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h254: explicitly initialize bit depth/chroma idc

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libx264: Fix loop failure due to bufsize becoming 0

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

qcelpdec: cosmetics: do not add line break before opening bracket in 'for',
'while', 'if/else', and 'switch' statements.

also fixes some spacing, but only if already changing a line

qcelp: check output buffer size before decoding

qcelpdec: fix the return value of qcelp_decode_frame().

Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

Add libmodplug support.

sipr: fix the output data size check and only calculate it once.

deshake: simplify filename check.

configure: remove bashism equality check for target_os.

deshake: misc style fixes.

deshake: move angles from stack to heap.
Fixes Ticket530

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

deshake: Allow specifying the filename for statistics and disable them by default.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Synchronize various 4CCs and codec tags from FFmpeg.

deshake: remove non const static

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

doxygen: remove a few @file parameters.

It is not mandatory and prevents breakage on rename.

lavfi: remove align tabs in Makefile.

ass_split: fix invalid doxygen group end markers.

proresdec_gpl: remove wrong @file reference.

bintext: remove wrong @file reference.

deshake: fix doxygen comments.

isom: replace pseudo doxycomments with normal comments.

Those chunks don't need to be parsed and they weren't parsed correctly
by Doxygen anyway.

pngdec: set reference correctly for corepng.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ff_dv_frame_profile2: Check input buffer size.

Based on code by DivX, Inc. / drffmpeg

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

cinepak: detect keyframes

Code by DivX, Inc.
Taken from drffmpeg
Author: unknown

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

qdm2: check output buffer size before decoding

Fix out of bound reads in the QDM2 decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

Check for out of bound writes in the QDM2 decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  id3v2: remove pointless casts
  id3v2: read TXXX frames with two calls to decode_str() instead of one.
  id3v2: don't discard the whole tag when encountering empty frames.
  libvpx: fix build with older libvpx versions.
  ARM: check for inline asm 'y' operand modifier support

Conflicts:
libavcodec/libvpxenc.c
libavformat/id3v2.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

ogg/celt: do not set sample_fmt in the demuxer

libvpxenc: support vpxencs command line options.
This simplifies useage for users who are used to vpxenc.
We continue to support the previous options with the exception of the flags
for which it would be slightly messy.

deshake: nicer looking defaults

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libavfilter: add deshake filter

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libavfilter: image transform code

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

H264: hotfix for speedloss on frame threading and h264 files with slices.

This fix is not ideal as it still limits the multithreading on field pictures
to the 2nd field only.
Ill try to fix it properly to allow both fields to decode concurrently but this
needs more work.

This bug exists since and was caused by:
commit ea6331f8bbaf3343faec6ffe77a6218a016a3af5
Author: Ronald S. Bultje <rsbultje@gmail.com>
Date:   Mon Jun 20 10:24:33 2011 -0400

    h264-mt: fix deadlock in packets with multiple slices (e.g. MP4).

threads: warn in case of multiple finished setup calls.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264_parser: print AU size on error.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264_parser: AVC support.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>