golomb: use unsigned arithmetics in svq3_get_ue_golomb()

This prevents undefined behaviour of signed left shift if the coded
value is larger than 2^31. Large values are most likely invalid and
caused errors or by feeding random.

Validate every use of svq3_get_ue_golomb() and changed the place there
the return value was compared with negative numbers. dirac.c was clean,
fixed rv30 and svq3.

x86: float_dsp: fix loading of the len parameter on x86-32

takdec: fix initialisation of LOCAL_ALIGNED array

When LOCAL_ALIGNED uses manual alignment initialisation is not
possible.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

takdec: fix initialisation of LOCAL_ALIGNED array

When LOCAL_ALIGNED uses manual alignment initialisation is not
possible.

Signed-off-by: Mans Rullgard <mans@mansr.com>

tak: demuxer, parser, and decoder

Signed-off-by: Paul B Mahol <onemda@gmail.com>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

parser: fix large overreads

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

bitstream: add get_bits64() to support reading more than 32 bits at once

Also remove a duplicate function in the MPEG-TS demuxer.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

arm: detect cpu features at runtime on Linux

This allows compiling optimised functions for features not enabled
in the core build and selecting these at runtime if the system has
the necessary support.

Signed-off-by: Mans Rullgard <mans@mansr.com>

arm: rename ARMVFP config symbol to VFP

This is consistent with usual ARM nomenclature as well as with the
VFPV3 and NEON symbols which both lack the ARM prefix.

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: arm: make _inline arch ext symbols depend on inline_asm

This makes --disable-inline-asm work as expected.

Signed-off-by: Mans Rullgard <mans@mansr.com>

arm: use HAVE*_INLINE/EXTERNAL macros for conditional compilation

These macros reflect the actual capabilities required here.

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: arm: check inline and external asm support for extensions

This tests instruction set support in both inline and external asm.
If both fail, the base config option is disabled.

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: add check_insn function

The check_insn function tests an instruction in both inline asm and
standalone assembly, and sets _external/_inline config properties
accordingly.

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: clean up check_inline_asm and check_as functions

The check_inline_asm function should check the actual C compiler,
not the one used for assembly files.  Usually these are the same,
but they might be different, typically when using a compiler other
than gcc.

The check_as should, as its name suggests, test the type of input
the AS command is used with, i.e. a standalond assembly (.S) file.

Finally, check for gnu assembler using the modified check_as as
this reflects actual usage.

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: arm: set fast_clz and fast_unaligned in cpuflags section

These are properties of the targeted core and do not depend on
specific assembly support in the toolchain which if missing will
render the controlling options here disabled.

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: arm: detect toolchain default arch version

Probe for the toolchain default architecture version if no --cpu flag
is present or an unknown cpu is specified.  Works with gcc, clang and
armcc.

This allows configuring based on the arch version even if it is not
explicitly specified to configure.  It also causes an explicit -march
flag to be added to CFLAGS and ASFLAGS, which in turn lets us do
proper instruction set tests with the assembler.

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: do not bypass cpuflags section if --cpu not given

This will allow arch-specific ways of determining the target
variant when none is specified on the command line.

Signed-off-by: Mans Rullgard <mans@mansr.com>

dct-test: arm: indicate required cpu features for optimised funcs

Signed-off-by: Mans Rullgard <mans@mansr.com>

snow: fix build after 594d4d5df3c70404168701dd5c90b7e6e5587793

arm: fix use of uninitialised value in ff_fft_fixed_init_arm()

When initialising an FFTContext for a plain FFT, mdct_bits is not set
and can contain a garbage value.  Since nbits is always valid and for
MDCT operation is mdct_bits - 2 checking this instead avoids using an
uninitialised value while having the same effect.

Signed-off-by: Mans Rullgard <mans@mansr.com>

avpicture: Don't assume a valid pix fmt in avpicture_get_size

When called from the v4l2 input device, pix_fmt can be
AV_PIX_FMT_NONE (for jpeg formats). Before 50ba57e0, this wasn't
an issue for avpicture_get_size, but after that commit, this
lead to crashes.

Signed-off-by: Martin Storsjö <martin@martin.st>

h264: add a pointer for weighted prediction temporary buffer

Reusing MpegEncContext's obmc_scratchpad for this becomes a mess with
adaptive frame-mt.

h264: check sps.log2_max_frame_num for validity

Fixes infinite or long taking loop in frame num gap code in
the fuzzed sample bipbop234.ts_s223302.

CC: libav-stable@libav.org

mov: validate number of DataReferenceBox entries against box size

Avoids a 2G memory allocation and parsing of random data in
mov_read_dref(). The fuzzed sample sample.mp4_s224424 triggers this.

mov: compute avg_frame_rate only if duration is known

Fixes an assert in fuzzed sample sample.mp4_s265930.

flac: change minimum and default of lpc_passes option to 1

Avoid use of uninitialized and uncomputed linear least square models
during ff_lpc_calc_coefs() for FF_LPC_TYPE_CHOLESKY. Fixes running
make fate-flac-16-lpc-cholesk with valgrind --undef-value-errors=yes.

fate: dpcm: Add dependencies

SBR DSP x86: implement SSE sbr_hf_gen

Start and end index are multiple of 2, therefore guaranteeing aligned access.
Also, this allows to generate 4 floats per loop, keeping the alignment all
along.

Timing:
- 32 bits: 326c -> 172c
- 64 bits: 323c -> 156c

Signed-off-by: Diego Biurrun <diego@biurrun.de>

AAC SBR: use AVFloatDSPContext's vector_fmul

Around 5% speedup on the code block using 'vector_fmul_add's.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

fate: image: Add dependencies

Changelog: add an entry for deprecating the avconv -vol option

x86: float_dsp: fix compilation of ff_vector_dmul_scalar_avx() on x86-32

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

h264: slice-mt: check master context for valid current_picture_ptr

Fixes errors in slice based multithreading introduced in 0b300daad2f5.

CC: libav-stable@libav.org

h264: slice-mt: get last_pic_dropable from master context

Fixes fate-h264-conformance-cvnlfi2_sony_h and smllwebdl.mkv from
https://github.com/OpenELEC/OpenELEC.tv/issues/1557 .

CC: libav-stable@libav.org

alacenc: add support for multi-channel encoding

pixdesc: fix yuva 10bit bit depth

It was wrongly set as the yuva 16bit one.

Signed-off-by: Paul B Mahol <onemda@gmail.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

avconv: deprecate the -vol option

Remove the code for volume scaling in avconv.c and instead auto-insert a
volume filter into the beginning of the filter chain.

x86: af_volume: add SSE2/SSSE3/AVX-optimized s32 volume scaling

x86: af_volume: add SSE2-optimized s16 volume scaling

lavfi: add volume filter

Based on the volume filter in FFmpeg written by Stefano Sabatini
<stefasab@gmail.com>.

lavu/opt: do not filter out the initial sign character except for flags

This allows parsing of special-case negative numbers like decibels.

eval: treat dB as decibels instead of decibytes

float_dsp: add vector_dmul_scalar() to multiply a vector of doubles

Include x86-optimized versions for SSE2 and AVX.

fate: workaround for slighly broken 'test' shell builtin

Some shells, e.g. minix3, have a broken 'test' builtin which fails
if the first operand of a binary operator looks like a unary operator.
Prefixing the values with 'x' prevents this from happening.

Signed-off-by: Mans Rullgard <mans@mansr.com>

mimic: initialize padding of swap_buf through av_fast_padded_malloc

eamad: initialize padding of bitstream_buf through av_fast_padded_malloc()

raw demuxer: initialize end of partial packets

lavc: fix decode_frame() third parameter semantics for video decoders

It's got_frame, not data size

lavc: factorise setting buffer type in avcodec_default_get_buffer().

lavc: don't reuse audio buffers

Any performance gain from this is negligible and not worth the extra
code.

lavc: set frame properties in ff_get_buffer().

There is no point in duplicating this code in every get_buffer()
implementation.

lavc: add a wrapper for AVCodecContext.get_buffer().

It will be useful in the upcoming transition to refcounted AVFrames.

Remove pointless #undefs of previously forbidden functions.

fate: Add dependencies for bmp, cdxl, dfa, mp3

ppc: always use pic for shared libraries

CC: libav-stable@libav.org

build: cosmetics: Move CONFIG_RTPDEC entry to a more suitable place

fate: ea, h264: prettyprinting and ordering cosmetics

configure: Strip ordinals from mingw generated def files

The def files are used for generating import libraries for
other toolchains (in particular, for generating import libraries
for MSVC for DLLs built with mingw).

The def files produced by mingw/gcc contains ordinals for each
exported function. When MSVC tools generate import libraries
from such a def file, MSVC links to the DLL by the ordinals
instead of linking by name.

Since the def files aren't maintained by hand, the ordinal
numbers are assigned (more or less) randomly and any caller
linking to the libs by ordinals will break as soon as the libraries
export more/fewer functions.

Therefore, strip out the ordinals from the generated def files,
to make users link to the libraries by name.

Callers linking to the DLLs using the gcc provided import library
link by name as they should.

Signed-off-by: Martin Storsjö <martin@martin.st>

configure: arm: detect default thumb state of compiler

This makes configure honour the compiler default if thumb is not
explicitly enabled or disabled.

Signed-off-by: Mans Rullgard <mans@mansr.com>

fate: fft: Fix libavcodec dependency

build: Make the ISMV muxer select the MOV muxer

They share the same code, so building one w/o the other makes no sense.

configure: move arm arch extensions to a separate variable

Signed-off-by: Mans Rullgard <mans@mansr.com>

fate-seek: remove use of gnu make 3.82 only private modifier

fate: move vsynth reference files to their own directory

fate: move fate-acodec reference files to their own dir

configure: avplay now depends on avresample

fate: split dependencies for fate-seek tests

Each fate-seek test depends now only on the corresponding fate-acodec,
fate-vsynth2 or fate-lavf test which creates the file seek-tests
operates on. The tests and references are renamed to match the test they
depend on.

h264: error out on unset current_picture_ptr for h->current_slice > 0

Fixes a segfault with fuzzed sample sample_varPAR_s11622_r001-02.avi.

CC: libav-stable@libav.org

avprobe: report per stream bit rate if set by the decoder

aac: avoid a memcpy in sbr_qmf_analysis

Swapping buffer indices allows saving one memcpy that accounts for 1% of the
runtime, according to oprofile.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

configure: fix indentation in option parsing loop

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: Use headers in the check for _beginthreadex for w32threads

When targeting the metro API subset, this function still exists in
the link libraries, but is excluded from the headers. This makes
sure w32threads is automatically disabled when targeting this API
subset (since not all the necessary functions for it are available).

Signed-off-by: Martin Storsjö <martin@martin.st>

avutil: Use a configure check to enable windows console functions

Not all versions or API subsets of windows have these functions.

Signed-off-by: Martin Storsjö <martin@martin.st>

avutil: Include io.h with a separate condition from windows console functions

Not all versions of windows have the console color functions,
while io.h might be needed for isatty (which can be found in
unistd.h or io.h).

Signed-off-by: Martin Storsjö <martin@martin.st>

avutil: Include io.h with a separate condition from MapViewOfFile

The existence of MapViewOfFile isn't linked to the existence of
io.h.

Not all versions of windows have MapViewOfFile (in particular,
Windows Phone 8 and the "metro" windows 8 API subset don't),
while they still have io.h (and need it for open/read/close).

Signed-off-by: Martin Storsjö <martin@martin.st>

cmdutils: Use a configure check for enabling CommandLineToArgvW

This simplifies the condition to avoid hardcoding the systems
where the function exists. This also simplifies support for
newer Windows API subsets where this function doesn't exist,
such as Windows Phone 8 and the "metro" API subset of Windows 8.

Signed-off-by: Martin Storsjö <martin@martin.st>

build: The FLAC encoder also depends on the flacdsp code

Fixes linking with only the FLAC encoder enabled.

img2: K&R formatting cosmetics

Also introduce local img_ namespace to simplify debugging.

h264: check context state before decoding slice data partitions

Fixes mov_h264_aac__Demo_FlagOfOurFathers.mov.SIGSEGV.4e9.656.

Found-by: Mateusz "j00ru" Jurczyk
CC: libav-stable@libav.org

flashsv: make sure data for zlib priming is available

Fixes a segfault in the fuzzed sample resolutionchange.flv_s314809.

CC: libav-stable@libav.org

avplay: Do not use removed av_get_int()

Fixes build with lavfi disabled.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

avconv: fix variable shadowing in configure_input_audio_filter()

fate: h264: Add dependencies

fate: ea: Add dependencies

fate: Do not unconditionally run libavutil tests

Now that libavutil can be disabled, this should be conditional.

rtpenc_chain: Remove unused variable

nuv: check for malloc failure when allocating extradata

Also make sure extradata is freed in the case where multiple
NUV_EXTRADATA frame types are found. This may not happen in practice,
but it could happen in a malformed stream, which would lead to a memleak
if not handled.

nuv: use the stream indices generated by avformat_new_stream()

nuv: cosmetics: pretty-printing

lavf: move nuv fourcc audio tags from riff to nuv

lavf: add a common function for selecting a pcm codec from parameters

lavf: move ff_codec_get_tag() and ff_codec_get_id() definitions to internal.h

lavf: move "MP3 " fourcc from riff to nut

Original commit, 7b24f9b, says it was added because it is used in libnut.

fate: vpx: Add dependencies

fate: Fix wavpack-matroskamode test dependencies

x86: dsputilenc: port to cpuflags

fate: Add dependencies for Vorbis, ProRes, QTRLE, utvideo tests

fate: real: Add dependencies

fate: lossless-audio: Add dependencies

x86: h264dsp: Fix linking with yasm and optimizations disabled

Some optimized functions reference optimized symbols, so the functions
must be explicitly disabled when those symbols are unavailable.