ffplay: set request_channels to 2

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: check for invalid bit depth value.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: add entries for 11 and 12 bits in ff_h264_chroma_qp[][]

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: fix the check for invalid SPS:num_ref_frames.

This patch set the limit to 16.

For information, thoses previous commits:
41f7e2d11d2dca23842ee89d530ca9fa15cec9d8
5cbb0e70a0a2ee99eb3cb09e837b9a1f7355b9bc
assumed it was either 30 or 32.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: do not let invalid values in h->ref_count on ff_h264_decode_ref_pic_list_reordering() errors.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Reject video with non multiple of 16 width/height in the 4xm decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

vf_lut.c: fix wrong syntax in example

lavfi: remove usage of deprecated av_opt_set_defaults2() function

Prefer av_opt_set_defaults() instead.

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  lavc: add video/audio/encoding flags to global_quality option
  libvpxenc: use libvpx's own defaults for some parameters
  vpxenc: add private options

Conflicts:
libavcodec/libvpxenc.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

4xm decoder: fix data size for i2 frames.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

4xm decoder: print some error messages in case of errors.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Check for out of bound accesses in the 4xm decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Prevent block size from inreasing in the shorten decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Check for out of bound reads in PTX decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fix the check for missing references in ff_er_frame_end() for H264.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Clear FF_INPUT_BUFFER_PADDING_SIZE bytes at the end of the temporary buffers used in 4xm decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Prevent NULL dereference when the huffman table is invalid in the 4xm decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fix use of uninitialized memory in 4X Technologies demuxer.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: increase ref_poc size to 32 as it can be per field.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: set unused ref_counts to 0 as a precautionary meassure.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ff_dot_product(): change return value to int64_t

Idea-by: Vitor
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

g729dec: initialize bit reader with the correct buffer size

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

g723.1_data: remove unneeded L

Found-by: Vitor
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: try reading SPS with wrong escaping, it sometimes works better

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

lavc: add video/audio/encoding flags to global_quality option

libvpxenc: use libvpx's own defaults for some parameters

Specifically, qmin/qmax, gop_size and keyint_min.

Fixes bug 47.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vpxenc: add private options

Make libvpx support close to the libx264 one. Thanks to
Jan Gerber <j@v2v.cc> for the support.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

g729dec: prevent out of array access

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avienc: Add a limit on the number of skiped frames muxed in a row.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

vf_scale.c: propagate error code

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge remote-tracking branch 'qatar/master'

* qatar/master: (34 commits)
  dpcm: return error if packet is too small
  dpcm: use smaller data types for static tables
  dpcm: use sol_table_16 directly instead of through the DPCMContext.
  dpcm: replace short with int16_t
  dpcm: check to make sure channels is 1 or 2.
  dpcm: misc pretty-printing
  dpcm: remove unnecessary variable by using bytestream functions.
  dpcm: move codec-specific variable declarations to their corresponding decoding blocks.
  dpcm: consistently use the variable name 'n' for the next input byte.
  dpcm: output AV_SAMPLE_FMT_U8 for Sol DPCM subcodecs 1 and 2.
  dpcm: calculate and check actual output data size prior to decoding.
  dpcm: factor out the stereo flag calculation
  dpcm: cosmetics: rename channel_number to ch
  avserver: Fix a bug where the socket is IPv4, but IPv6 is autoselected for the loopback address.
  lavf: Avoid using av_malloc(0) in av_dump_format
  dxva2_h264: pass the correct 8x8 scaling lists
  dca: NEON optimised high freq VQ decoding
  avcodec: reject audio packets with NULL data and non-zero size
  dxva: Add ability to enable workaround for older ATI cards
  latmenc: Set latmBufferFullness to largest value to indicate it is not used
  ...

Conflicts:
libavcodec/dxva2_h264.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Fix out of bound reads/writes in the TIFF decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Check for out of bound writes in the QDM2 decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fix out of bound reads in the QDM2 decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fix out of bound reads due to integer overflow in the ADPCM IMA Electronic Arts EACS decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Check for out of bound reads in the Electronic Arts CMV decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Prevent NULL dereferences when missing the reference frame in the Electronic Arts CMV decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fix potential pointer arithmetic overflows in the Electronic Arts CMV decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Prevent infinite loop in the ANM decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fix double free on error in Deluxe Paint Animation demuxer.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Check for out of bound reads in AVS decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Check for out of bound writes in the avs demuxer.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Check for corrupted data in avs demuxer.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

swresample: check for invalid sample formats.

Bug-Found-by: Justin Ruggles
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat_free_context: favor av_freep()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

oggenc: favor av_freep()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

swr_test: test planar audio

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

swr: minor fixes to get planar audio working

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mpegvideo: increase emu edge buffer size
This fixes a crash with 422 H.264

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

dpcm: return error if packet is too small

dpcm: use smaller data types for static tables

dpcm: use sol_table_16 directly instead of through the DPCMContext.

dpcm: replace short with int16_t

dpcm: check to make sure channels is 1 or 2.

dpcm: misc pretty-printing

dpcm: remove unnecessary variable by using bytestream functions.

Uses 'buf' directly instead of a separate iterator variable 'in'.

dpcm: move codec-specific variable declarations to their corresponding decoding blocks.

dpcm: consistently use the variable name 'n' for the next input byte.

dpcm: output AV_SAMPLE_FMT_U8 for Sol DPCM subcodecs 1 and 2.

Uses the native sample format for the codec instead of left-shifting all
samples by 8.

dpcm: calculate and check actual output data size prior to decoding.

dpcm: factor out the stereo flag calculation

dpcm: cosmetics: rename channel_number to ch

Make the code easier to read.

Remove unused variable.

Signed-off-by: Reimar Döffinger <Reimar.Doeffinger@gmx.de>

avserver: Fix a bug where the socket is IPv4, but IPv6 is autoselected for the loopback address.

This fixes bind(8080): Address family not supported by protocol.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavf: Avoid using av_malloc(0) in av_dump_format

On OS X, av_malloc(0) returns pointers that cause crashes when
freed.

Signed-off-by: Martin Storsjö <martin@martin.st>

dxva2_h264: pass the correct 8x8 scaling lists

Copy the Inter 8x8 scaling list as second 8x8 matrix into DXVA2's
quantization matrix data structure instead of a potentially unset
Intra chroma scaling matrix.

Fix dxva2 decoding for some H264 samples.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

lavf/utils: Drop old hack for implicit HE-AAC signaling.

It has not been needed since a58858d60d37c7abfcea11bb387909bf9cd4916d.

Fixes decode of implicit HE-AAC without extradata or ADTS headers.

dca: NEON optimised high freq VQ decoding

Signed-off-by: Mans Rullgard <mans@mansr.com>

doc: add swresample doc

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

lavf/utils: ignore subtitle timestamps in timings calculation

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec: reject audio packets with NULL data and non-zero size

There is no valid reason the user should ever send such packets in the
first place, but the documentation for CODEC_CAP_DELAY states that the
codec is guaranteed not to get a NULL packet unless that capability is
set. That isn't true without preventing this case.

fix memory leak in oggenc

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Enable multithreding when decoding with libopenjpeg

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Warn the user if lowres > max_lowres, set lowres to max_lowres and continue

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

dxva: Add ability to enable workaround for older ATI cards

The workaround needs to be enabled per PCI ID which cannot be detected inside
libavcodec. So add a flag to manually enable the alternate behavior.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

latmenc: Set latmBufferFullness to largest value to indicate it is not used

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

Fix out of bound writes in fix_bitshift() of the shorten decoder.

The data pointers s->decoded[*] already take into account s->nwrap.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

g729: dont force all cpu optims to off but override just the one that doesnt work.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ppc: fix usage of dsp_mask

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  dca: clear inactive subbands only once in qmf_32_subbands()
  vf_unsharp: set default chroma size value to 5x5
  vf_unsharp: fix out-of-buffer read

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Check for out of bound reads in the Tiertex Limited SEQ decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fix the size of workspace buffers in the motion pixels decoder.

Some buffers must be mod 4 in width and/or height.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Clear FF_INPUT_BUFFER_PADDING_SIZE bytes at the end of the temporary buffer used in motion pixels decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Check for out of bounds writes in the Delphine Software International CIN decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Check for out of bounds reads in the Delphine Software International CIN decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Check for out of bound reads in the QuickDraw decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Revert "general.texi: we dont have a g729 encoder yet"

This reverts commit 84f8aef40c7091274ed399a8aeaa933ea76d9476.

fate: only test 10seconds of the g729 data, the reference files are too huge otherwise.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libstagefright: change Libav to FFmpeg in copyright header with permission of author.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

fate: g729 test

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

g723_1_demuxer: rco is also a commonly used extension.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mov: Only touch extradata in mov_read_extradata() if codec_id is what we expect

Extradata should only be parsed from the avss, fiel, jp2h and alac atoms for
AVS, MJPEG, Motion JPEG 2000 and ALAC respectively.
This also fixes the mov demuxer coming up with bogus extradata for some
AVC-Intra samples due to the presence of fiel atoms.

Check for out of bound reads in xan_huffman_decode() of the xan decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

add LJ2K and LJ2C to jpeg2000 decoder
works on http://web.archive.org/web/20070128115405/http://www.leadcodecs.com/Download/MJ2K/WhatBox_MJ2k_720x480_PerfectQuality2.avi

adpcm: move codec-specific variable declarations to the sections for the corresponding codecs.

adpcm: check buffer size in Funcom ISS decoder before reading header.

Also use the post-header data size to control termination of the main
decoding loop.

adpcm: simplify reading of Funcom ISS frame header.

adpcm: check buffer size in IMA DK4 decoder before reading header.

Also use the post-header data size to control termination of the main
decoding loop.

adpcm: simplify reading of IMA DK4 frame header.

adpcm_ms: clean up reading of predictor coefficients