h264: do not let invalid values in h->ref_count after a decoder reset.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: bit depth/chroma idc changes must go through a full format negociation.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h254: explicitly initialize bit depth/chroma idc

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libx264: Fix loop failure due to bufsize becoming 0

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Add libmodplug support.

deshake: simplify filename check.

configure: remove bashism equality check for target_os.

deshake: misc style fixes.

deshake: move angles from stack to heap.
Fixes Ticket530

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

deshake: Allow specifying the filename for statistics and disable them by default.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

deshake: remove non const static

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

doxygen: remove a few @file parameters.

It is not mandatory and prevents breakage on rename.

lavfi: remove align tabs in Makefile.

ass_split: fix invalid doxygen group end markers.

proresdec_gpl: remove wrong @file reference.

bintext: remove wrong @file reference.

deshake: fix doxygen comments.

isom: replace pseudo doxycomments with normal comments.

Those chunks don't need to be parsed and they weren't parsed correctly
by Doxygen anyway.

pngdec: set reference correctly for corepng.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ff_dv_frame_profile2: Check input buffer size.

Based on code by DivX, Inc. / drffmpeg

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

cinepak: detect keyframes

Code by DivX, Inc.
Taken from drffmpeg
Author: unknown

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  id3v2: remove pointless casts
  id3v2: read TXXX frames with two calls to decode_str() instead of one.
  id3v2: don't discard the whole tag when encountering empty frames.
  libvpx: fix build with older libvpx versions.
  ARM: check for inline asm 'y' operand modifier support

Conflicts:
libavcodec/libvpxenc.c
libavformat/id3v2.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

libvpxenc: support vpxencs command line options.
This simplifies useage for users who are used to vpxenc.
We continue to support the previous options with the exception of the flags
for which it would be slightly messy.

deshake: nicer looking defaults

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libavfilter: add deshake filter

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libavfilter: image transform code

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

H264: hotfix for speedloss on frame threading and h264 files with slices.

This fix is not ideal as it still limits the multithreading on field pictures
to the 2nd field only.
Ill try to fix it properly to allow both fields to decode concurrently but this
needs more work.

This bug exists since and was caused by:
commit ea6331f8bbaf3343faec6ffe77a6218a016a3af5
Author: Ronald S. Bultje <rsbultje@gmail.com>
Date:   Mon Jun 20 10:24:33 2011 -0400

    h264-mt: fix deadlock in packets with multiple slices (e.g. MP4).

threads: warn in case of multiple finished setup calls.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264_parser: print AU size on error.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264_parser: AVC support.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

fate: fix due to new yuv444 formats

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

RELEASE: 0.8.5 has been released

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Enable conversions to YUV444P9/YUV444P10, they seem to work fine.

Signed-off-by: Reimar Döffinger <Reimar.Doeffinger@gmx.de>

lavf/utils: fix overestimation of the rational number density.
Fixes Ticket498

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mpegtsenc: Lift limit on PMT PID
Fixes Ticket518

libcdio: Fix missing avclass in context
Fixes Ticket526

id3v2: remove pointless casts

id3v2: read TXXX frames with two calls to decode_str() instead of one.

Read the key in the first, value in the second.

This allows to avoid pointless strdups and simplify decode_str() by
dropping two of its parameters.

id3v2: don't discard the whole tag when encountering empty frames.

While they're technically invalid, it's better to skip them and try to
read the rest of the tag.

libvpx: fix build with older libvpx versions.

VPX_ERROR_RESILIENT_DEFAULT and VPX_ERROR_RESILIENT_PARTITIONS weren't
defined before 4cb0ebe5b27d35ccc2a78c1d16f2622ddef21f74 (CommitDate: Tue
Jun 28 11:10:17 2011)

ARM: check for inline asm 'y' operand modifier support

The inline asm added in bf5d46d uses the 'y' modifier which
is only supported from gcc 4.5.  This check allows building
with older compilers.

Signed-off-by: Mans Rullgard <mans@mansr.com>

VP8: armv6 optimizations.

From 52.503s (~40fps) to 27.973sec (~80fps) decoding of 480p sintel
trailer, i.e. a ~2x speedup overall, on a Nexus S.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avutil: bump for av_get_default_channel_layout()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  mpc8: check output buffer size before decoding
  mpc7: return error if packet is too small.
  mpc7: check output buffer size before decoding
  nellymoserdec: allocate float_buf only when decoding to int16
  nellymoserdec: use NELLY_BUF_LEN instead of 128
  nellymoserdec: use NELLY_BLOCK_LEN instead of 64 when appropriate.
  nellymoserdec: allow user to request SAMPLE_FMT_FLT for output samples.
  nellymoser: check output buffer size before decoding
  win32: improve threading algorithm warning

Conflicts:
libavcodec/nellymoserdec.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

MAINTAINERS: new ffplay maintainer

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge remote-tracking branch 'cus/stable'

* cus/stable:
  ffplay: use libswresample instead of av_audio_convert
  audioconvert: add av_get_default_channel_layout public function
  ffplay: use avctx->channels and avctx->freq before avcodec_open2 consistently
  ffplay: remove now unnecessary request_channels, we set it now with options
  ffplay: set request_channels to 2

Merged-by: Michael Niedermayer <michaelni@gmx.at>

riff: map 0x0038 to amrnb, works on http://video.mopoto.com/4/40/407/40709.avi

ffplay: use libswresample instead of av_audio_convert

Previously ffplay expected SDL_AudioOpen to provide the requested sample rate
and channel number. This is no longer a requirement because this patch replaces
the audio convert function with libswresample's swr_convert which is capable of
handling different sample formats, sample rates and different number of
channels and different channel layouts.

The patch also removes the hardcoded 16bit samples assumption and uses
av_get_bytes_per_sample almost everywhere. The only exceptions are
the update_sample_display and video_audio_display functions, it
seemed too much of a headache to make them generic.

We also fix a tiny bug in sdl_audio_callback, we ensure that the number of
bytes when we put silence in the buffer is a multiple of the frame size.

audioconvert: add av_get_default_channel_layout public function

ffplay: use avctx->channels and avctx->freq before avcodec_open2 consistently

ffplay: remove now unnecessary request_channels, we set it now with options

ffplay: set request_channels to 2

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: fix intra 16x16 mode check when using mbaff and constrained_intra_pred.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libvpxenc: cosmetics to make code more similar to lucas.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: check for invalid bit depth value.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: add entries for 11 and 12 bits in ff_h264_chroma_qp[][]

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: fix the check for invalid SPS:num_ref_frames.

This patch set the limit to 16.

For information, thoses previous commits:
41f7e2d11d2dca23842ee89d530ca9fa15cec9d8
5cbb0e70a0a2ee99eb3cb09e837b9a1f7355b9bc
assumed it was either 30 or 32.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: do not let invalid values in h->ref_count on ff_h264_decode_ref_pic_list_reordering() errors.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Reject video with non multiple of 16 width/height in the 4xm decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mpc8: check output buffer size before decoding

mpc7: return error if packet is too small.

mpc7: check output buffer size before decoding

nellymoserdec: allocate float_buf only when decoding to int16

nellymoserdec: use NELLY_BUF_LEN instead of 128

nellymoserdec: use NELLY_BLOCK_LEN instead of 64 when appropriate.

nellymoserdec: allow user to request SAMPLE_FMT_FLT for output samples.

nellymoser: check output buffer size before decoding

vf_lut.c: fix wrong syntax in example

lavfi: remove usage of deprecated av_opt_set_defaults2() function

Prefer av_opt_set_defaults() instead.

win32: improve threading algorithm warning

If no threading is requested do not issue warning about unsupported
threading algorithm.

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  lavc: add video/audio/encoding flags to global_quality option
  libvpxenc: use libvpx's own defaults for some parameters
  vpxenc: add private options

Conflicts:
libavcodec/libvpxenc.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

4xm decoder: fix data size for i2 frames.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

4xm decoder: print some error messages in case of errors.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Check for out of bound accesses in the 4xm decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Prevent block size from inreasing in the shorten decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Check for out of bound reads in PTX decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fix the check for missing references in ff_er_frame_end() for H264.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Clear FF_INPUT_BUFFER_PADDING_SIZE bytes at the end of the temporary buffers used in 4xm decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Prevent NULL dereference when the huffman table is invalid in the 4xm decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fix use of uninitialized memory in 4X Technologies demuxer.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: increase ref_poc size to 32 as it can be per field.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: set unused ref_counts to 0 as a precautionary meassure.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ff_dot_product(): change return value to int64_t

Idea-by: Vitor
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

g729dec: initialize bit reader with the correct buffer size

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

g723.1_data: remove unneeded L

Found-by: Vitor
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: try reading SPS with wrong escaping, it sometimes works better

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

lavc: add video/audio/encoding flags to global_quality option

libvpxenc: use libvpx's own defaults for some parameters

Specifically, qmin/qmax, gop_size and keyint_min.

Fixes bug 47.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vpxenc: add private options

Make libvpx support close to the libx264 one. Thanks to
Jan Gerber <j@v2v.cc> for the support.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

g729dec: prevent out of array access

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avienc: Add a limit on the number of skiped frames muxed in a row.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

vf_scale.c: propagate error code

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge remote-tracking branch 'qatar/master'

* qatar/master: (34 commits)
  dpcm: return error if packet is too small
  dpcm: use smaller data types for static tables
  dpcm: use sol_table_16 directly instead of through the DPCMContext.
  dpcm: replace short with int16_t
  dpcm: check to make sure channels is 1 or 2.
  dpcm: misc pretty-printing
  dpcm: remove unnecessary variable by using bytestream functions.
  dpcm: move codec-specific variable declarations to their corresponding decoding blocks.
  dpcm: consistently use the variable name 'n' for the next input byte.
  dpcm: output AV_SAMPLE_FMT_U8 for Sol DPCM subcodecs 1 and 2.
  dpcm: calculate and check actual output data size prior to decoding.
  dpcm: factor out the stereo flag calculation
  dpcm: cosmetics: rename channel_number to ch
  avserver: Fix a bug where the socket is IPv4, but IPv6 is autoselected for the loopback address.
  lavf: Avoid using av_malloc(0) in av_dump_format
  dxva2_h264: pass the correct 8x8 scaling lists
  dca: NEON optimised high freq VQ decoding
  avcodec: reject audio packets with NULL data and non-zero size
  dxva: Add ability to enable workaround for older ATI cards
  latmenc: Set latmBufferFullness to largest value to indicate it is not used
  ...

Conflicts:
libavcodec/dxva2_h264.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Fix out of bound reads/writes in the TIFF decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Check for out of bound writes in the QDM2 decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fix out of bound reads in the QDM2 decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fix out of bound reads due to integer overflow in the ADPCM IMA Electronic Arts EACS decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Check for out of bound reads in the Electronic Arts CMV decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Prevent NULL dereferences when missing the reference frame in the Electronic Arts CMV decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fix potential pointer arithmetic overflows in the Electronic Arts CMV decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>