wmadec: Verify bitstream size makes sense before calling init_get_bits.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind

kmvc: Log into a context at a log level constant.

mpeg12: Pad framerate tab to 16 entries.

There are many places where we read an unchecked 4-bit index into it.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind

kgv1dec: Increase offsets array size so it is large enough.

Fixes CVE-2011-3945

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
(cherry picked from commit 807a045ab7f51993a2c1b3116016cbbd4f3d20d6)

Signed-off-by: Alex Converse <alex.converse@gmail.com>

kmvc: Check palsize.

Fixes: CVE-2011-3952
Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Based on fix by Michael Niedermayer

nsvdec: Propagate errors

Related to CVE-2011-3940.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind

nsvdec: Be more careful with av_malloc().

Check results for av_malloc() and fix an overflow in one call.

Related to CVE-2011-3940.

Based in part on work from Michael Niedermayer.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind

nsvdec: Fix use of uninitialized streams.

Fixes CVE-2011-3940 (Out of bounds read resulting in out of bounds write)

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
(cherry picked from commit 5c011706bc752d34bc6ada31d7df2ca0c9af7c6b)

Signed-off-by: Alex Converse <alex.converse@gmail.com>

movenc: cosmetics: Get rid of camelCase identifiers

Also add spacing around operators on touched lines, and split
one line to match the common style.

Signed-off-by: Martin Storsjö <martin@martin.st>

swscale: more generic check for planar destination formats with alpha

Signed-off-by: Paul B Mahol <onemda@gmail.com>
Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

doc: Document mov/mp4 fragmentation options

Signed-off-by: Martin Storsjö <martin@martin.st>

build: Use order-only prerequisites for creating FATE reference file dirs.

x86 dsputil: provide SSE2/SSSE3 versions of bswap_buf

While pshufb allows emulating bswap on XMM registers for SSSE3, more
shuffling is needed for SSE2. Alignment is critical, so specific codepaths
are provided for this case.

For the huffyuv sequence "angels_480-huffyuvcompress.avi":
C (using bswap instruction): ~ 55k cycles
SSE2:                        ~ 40k cycles
SSSE3 using unaligned loads: ~ 35k cycles
SSSE3 using aligned loads:   ~ 30k cycles

Signed-off-by: Diego Biurrun <diego@biurrun.de>

rtsp: Remove some unused variables from ff_rtsp_connect().

avutil: make intfloat api public

The functions are already av_ prefixed and intfloat header is already provided.
Install libavutil/intfloat.h

Signed-off-by: Paul B Mahol <onemda@gmail.com>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

avformat_write_header(): detail error message

Give the exact aspect ratios when there is a mismatch between encoder
and muxer.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

s/vbsf/bsf/

-vbsf doesn't exist anymore. It got renamed to -bsf somewhere along the
line. Update print statement accordingly.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

yuv4mpeg: allow YUV4MPEG2 demuxer to recognize 'C420' colorspace.

Current demuxer recognizes several colorspace formats that begin with 'C420'
but does not yet recognize plain 'C420'. GStreamer's y4menc component
generates .y4m files with a 'C420' colorspace. This new comparison is
placed after the other 'C420' checks so that it doesn't interfere with
them.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

png: add support for bpp>4 to paeth x86 SIMD code.

This fixes playback of e.g. RGB48 (bpp=6) content on x86 CPUs. Fixes
bug 214.

png: add SSE2 version for add_bytes_l2.

png: convert DSP functions to yasm.

Fix non-C89 declarations in for loops

Some compilers still do not support this syntax.

Signed-off-by: Mans Rullgard <mans@mansr.com>

png: add missing #if HAVE_SSSE3 around function pointer assignment.

imdct36: mark SSE functions as using all 16 XMM registers.

On x86-64, it indeed uses all 16 registers (and on x86-32, this gets
clipped to 8). Not marking it properly causes callers of this function
to fail randomly because of XMM register clobbering.

png: move DSP functions to their own DSP context.

sunrast: Add a sample request for TIFF, IFF, and Experimental Rastfile formats.

Signed-off-by: Aneesh Dogra <lionaneesh@gmail.com>
Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

sunrast: Cosmetics

Signed-off-by: Aneesh Dogra <lionaneesh@gmail.com>
Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

sunrast: Remove if (unsigned int < 0) check.

Note: This fixes the following GCC warning :-
libavcodec/sunrast.c:94: warning: comparison of unsigned expression < 0 is always false.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

sunrast: Replace magic number by a macro.

Signed-off-by: Aneesh Dogra <lionaneesh@gmail.com>
Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

aacenc: Fix LONG_START windowing.

Forgot to add the equivalent amount to the incoming sample pointer as the output pointer.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

aacenc: Fix a bug where deinterleaved samples were stored in the wrong place.

10l: Forgot to adjust deinterleave for new location of incoming samples in 7946a5a.

This produced incorrect, but surprisingly listenable results.

Thanks to Justin Ruggles for the report.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

avplay: use the correct array size for stride.

AV_NUM_DATA_POINTERS instead of 4.

lavc: extend doxy for avcodec_alloc_context3().

APIchanges: mention avcodec_alloc_context()/2/3

There was no minor bump for making avcodec_alloc_context3() public and
deprecating the other two, so I'm using the first next lavc bump.

avcodec_align_dimensions2: set only 4 linesizes, not AV_NUM_DATA_POINTERS.

This function is video-only, so there's no point in setting more
linesizes.

Fixes stack corruption in avplay.

aacsbr: ARM NEON optimised sbrdsp functions

Overall speedup of HE-AAC decoding 2.3x on Cortex-A8, 1.2x on A9.

Signed-off-by: Mans Rullgard <mans@mansr.com>

aacsbr: align some arrays

Signed-off-by: Mans Rullgard <mans@mansr.com>

aacsbr: move some simdable loops to function pointers

This prepares for assembly optimisations by moving the most
time-consuming loops to functions called through pointers
in a new context.

Signed-off-by: Mans Rullgard <mans@mansr.com>

cosmetics: Remove extra newlines at EOF

movenc: Allow writing to a non-seekable output if using empty moov

In this mode, no seeks will be done except for within moov/moof
fragments, which should fit within the AVIOContext buffer.

This allows pushing live smooth streaming format data to
a live publishing point on IIS over http.

Signed-off-by: Martin Storsjö <martin@martin.st>

movenc: Support adding isml (smooth streaming live) metadata

This metadata is required for pushing a live stream to an IIS
publishing point.

Signed-off-by: Martin Storsjö <martin@martin.st>

libavcodec: Don't crash in avcodec_encode_audio if time_base isn't set

Earlier, calling avcodec_encode_audio worked fine even if time_base
wasn't set. Now it crashes due to trying to scale the output pts to
the codec context time base. This affects e.g. VLC.

If no time_base is set for audio codecs, set it to the sample
rate.

CC: libav-stable@libav.org
Signed-off-by: Martin Storsjö <martin@martin.st>

sunrast: Document the different Sun Raster file format types.

Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

sunrast: Add a check for experimental type.

Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

libspeexenc: use AVSampleFormat instead of deprecated/removed SampleFormat

Fixes build with --enable-libspeex

lavf: remove disabled FF_API_SET_PTS_INFO cruft

lavf: remove disabled FF_API_OLD_INTERRUPT_CB cruft

lavf: remove disabled FF_API_REORDER_PRIVATE cruft

lavf: remove disabled FF_API_SEEK_PUBLIC cruft

lavf: remove disabled FF_API_STREAM_COPY cruft

lavf: remove disabled FF_API_PRELOAD cruft

lavf: remove disabled FF_API_NEW_STREAM cruft

lavf: remove disabled FF_API_RTSP_URL_OPTIONS cruft

lavf: remove disabled FF_API_MUXRATE cruft

lavf: remove disabled FF_API_FILESIZE cruft

lavf: remove disabled FF_API_TIMESTAMP cruft

lavf: remove disabled FF_API_LOOP_OUTPUT cruft

lavf: remove disabled FF_API_LOOP_INPUT cruft

lavf: remove disabled FF_API_AVSTREAM_QUALITY cruft

lavf: remove disabled FF_API_FLAG_RTP_HINT cruft

lavf: remove disabled FF_API_SDP_CREATE cruft

lavf: remove disabled FF_API_GUESS_IMG2_CODEC cruft

lavf: remove disabled FF_API_PKT_DUMP cruft

lavf: remove disabled FF_API_FIND_INFO_TAG cruft

lavf: remove disabled FF_API_PARSE_DATE cruft

lavf: remove disabled FF_API_DUMP_FORMAT cruft

lavf: remove disabled FF_API_FORMAT_PARAMETERS cruft

Also remove now unused AVFormatParameters struct and
AVOutputFormat.set_parameters().

lavf: remove disabled FF_API_OLD_METADATA2 cruft

lavf: remove disabled FF_API_OLD_AVIO cruft

lavf: increase major version from 53 to 54.

lavf: remove AVFormatParameters from AVFormatContext.read_header signature

lavc: remove disabled FF_API_AVFRAME_AGE cruft.

lavc: remove disabled FF_API_DATA_POINTERS cruft.

lavc: remove disabled FF_API_TIFFENC_COMPLEVEL cruft.

lavc: remove disabled FF_API_INTERNAL_CONTEXT cruft.

lavc: remove disabled FF_API_PARSE_FRAME cruft.

lavc: remove disabled FF_API_GET_ALPHA_INFO cruft.

lavc: remove disabled FF_API_MJPEG_GLOBAL_OPTS cruft.

lavc: remove disabled FF_API_SNOW_GLOBAL_OPTS cruft.

lavc: remove disabled FF_API_LAME_GLOBAL_OPTS cruft.

lavc: remove disabled FF_API_AVCODEC_INIT cruft.

lavc: remove disabled FF_API_ER cruft.

lavc: remove disabled FF_API_DRC_SCALE cruft.

lavc: remove disabled FF_API_AVCODEC_OPEN cruft.

lavc: remove disabled FF_API_ALLOC_CONTEXT cruft.

lavc: remove disabled FF_API_GET_PIX_FMT_NAME cruft.

lavc: remove disabled FF_API_FLAC_GLOBAL_OPTS cruft.

lavc: remove disabled FF_API_OLD_FF_PICT_TYPES cruft.

lavc: remove disabled FF_API_THREAD_INIT cruft.

lavc: remove disabled FF_API_ANTIALIAS_ALGO cruft.

lavc: remove disabled FF_API_OLD_AUDIOCONVERT cruft.

lavc: remove disabled FF_API_OLD_SAMPLE_FMT cruft.

lavc: remove disabled FF_API_PALETTE_CONTROL cruft.

lavc: remove disabled FF_API_MPEGVIDEO_GLOBAL_OPTS cruft.

lavc: remove disabled FF_API_X264_GLOBAL_OPTS cruft.

lavc: remove the deprecated opt.h header.

lavc: remove the deprecated "ab" option.

codec-regression: use private options instead of deprecated codec flags.

lavc: increase major version to 54.

The lavf-ffm test results change because ffmenc writes
AVCodecContext.flags/flags2 and the defaults for those change.

cmdutils: fix options starting with 'no'.

E.g. non_linear_quant mpeg2video private option.

Signed-off-by: Anton Khirnov <anton@khirnov.net>