fate: ea, h264: prettyprinting and ordering cosmetics

configure: Strip ordinals from mingw generated def files

The def files are used for generating import libraries for
other toolchains (in particular, for generating import libraries
for MSVC for DLLs built with mingw).

The def files produced by mingw/gcc contains ordinals for each
exported function. When MSVC tools generate import libraries
from such a def file, MSVC links to the DLL by the ordinals
instead of linking by name.

Since the def files aren't maintained by hand, the ordinal
numbers are assigned (more or less) randomly and any caller
linking to the libs by ordinals will break as soon as the libraries
export more/fewer functions.

Therefore, strip out the ordinals from the generated def files,
to make users link to the libraries by name.

Callers linking to the DLLs using the gcc provided import library
link by name as they should.

Signed-off-by: Martin Storsjö <martin@martin.st>

configure: arm: detect default thumb state of compiler

This makes configure honour the compiler default if thumb is not
explicitly enabled or disabled.

Signed-off-by: Mans Rullgard <mans@mansr.com>

fate: fft: Fix libavcodec dependency

build: Make the ISMV muxer select the MOV muxer

They share the same code, so building one w/o the other makes no sense.

configure: move arm arch extensions to a separate variable

Signed-off-by: Mans Rullgard <mans@mansr.com>

fate-seek: remove use of gnu make 3.82 only private modifier

fate: move vsynth reference files to their own directory

fate: move fate-acodec reference files to their own dir

configure: avplay now depends on avresample

fate: split dependencies for fate-seek tests

Each fate-seek test depends now only on the corresponding fate-acodec,
fate-vsynth2 or fate-lavf test which creates the file seek-tests
operates on. The tests and references are renamed to match the test they
depend on.

h264: error out on unset current_picture_ptr for h->current_slice > 0

Fixes a segfault with fuzzed sample sample_varPAR_s11622_r001-02.avi.

CC: libav-stable@libav.org

avprobe: report per stream bit rate if set by the decoder

aac: avoid a memcpy in sbr_qmf_analysis

Swapping buffer indices allows saving one memcpy that accounts for 1% of the
runtime, according to oprofile.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

configure: fix indentation in option parsing loop

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: Use headers in the check for _beginthreadex for w32threads

When targeting the metro API subset, this function still exists in
the link libraries, but is excluded from the headers. This makes
sure w32threads is automatically disabled when targeting this API
subset (since not all the necessary functions for it are available).

Signed-off-by: Martin Storsjö <martin@martin.st>

avutil: Use a configure check to enable windows console functions

Not all versions or API subsets of windows have these functions.

Signed-off-by: Martin Storsjö <martin@martin.st>

avutil: Include io.h with a separate condition from windows console functions

Not all versions of windows have the console color functions,
while io.h might be needed for isatty (which can be found in
unistd.h or io.h).

Signed-off-by: Martin Storsjö <martin@martin.st>

avutil: Include io.h with a separate condition from MapViewOfFile

The existence of MapViewOfFile isn't linked to the existence of
io.h.

Not all versions of windows have MapViewOfFile (in particular,
Windows Phone 8 and the "metro" windows 8 API subset don't),
while they still have io.h (and need it for open/read/close).

Signed-off-by: Martin Storsjö <martin@martin.st>

cmdutils: Use a configure check for enabling CommandLineToArgvW

This simplifies the condition to avoid hardcoding the systems
where the function exists. This also simplifies support for
newer Windows API subsets where this function doesn't exist,
such as Windows Phone 8 and the "metro" API subset of Windows 8.

Signed-off-by: Martin Storsjö <martin@martin.st>

build: The FLAC encoder also depends on the flacdsp code

Fixes linking with only the FLAC encoder enabled.

img2: K&R formatting cosmetics

Also introduce local img_ namespace to simplify debugging.

h264: check context state before decoding slice data partitions

Fixes mov_h264_aac__Demo_FlagOfOurFathers.mov.SIGSEGV.4e9.656.

Found-by: Mateusz "j00ru" Jurczyk
CC: libav-stable@libav.org

flashsv: make sure data for zlib priming is available

Fixes a segfault in the fuzzed sample resolutionchange.flv_s314809.

CC: libav-stable@libav.org

avplay: Do not use removed av_get_int()

Fixes build with lavfi disabled.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

avconv: fix variable shadowing in configure_input_audio_filter()

fate: h264: Add dependencies

fate: ea: Add dependencies

fate: Do not unconditionally run libavutil tests

Now that libavutil can be disabled, this should be conditional.

rtpenc_chain: Remove unused variable

nuv: check for malloc failure when allocating extradata

Also make sure extradata is freed in the case where multiple
NUV_EXTRADATA frame types are found. This may not happen in practice,
but it could happen in a malformed stream, which would lead to a memleak
if not handled.

nuv: use the stream indices generated by avformat_new_stream()

nuv: cosmetics: pretty-printing

lavf: move nuv fourcc audio tags from riff to nuv

lavf: add a common function for selecting a pcm codec from parameters

lavf: move ff_codec_get_tag() and ff_codec_get_id() definitions to internal.h

lavf: move "MP3 " fourcc from riff to nut

Original commit, 7b24f9b, says it was added because it is used in libnut.

fate: vpx: Add dependencies

fate: Fix wavpack-matroskamode test dependencies

x86: dsputilenc: port to cpuflags

fate: Add dependencies for Vorbis, ProRes, QTRLE, utvideo tests

fate: real: Add dependencies

fate: lossless-audio: Add dependencies

x86: h264dsp: Fix linking with yasm and optimizations disabled

Some optimized functions reference optimized symbols, so the functions
must be explicitly disabled when those symbols are unavailable.

vf_fieldorder: require write permissions

This filter modifies the input frame.

vf_fieldorder: reindent

lavfi: merge start_frame/draw_slice/end_frame

Any alleged performance benefits gained from the split are purely
mythological and do not justify added code complexity.

lavfi: remove vf_slicify

The following commit will make it useless.

The crop_scale_vflip FATE test changes because of off-by-one differences
in output when vflipped slices are passed to sws.

asink_nullsink: plug a memory leak.

x86: h264_idct: port to cpuflags

x86: cpu: Drop unused HAVE_RWEFLAGS condition

The test for rweflags was dropped in a previous commit.

vble: Do not abort decoding when version is not 1

Some combinations of OS, VirtualDub, and VBLE can accidentally
set the version to a value other than 1. Since no other version
of VBLE was ever released, simply warn about it.

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

lavr: do not pass consumed samples as a parameter to ff_audio_resample()

Since the resampler handles buffering of unconsumed samples internally, the
caller does not need this information.

lavr: correct the documentation for the ff_audio_resample() return value

lavr: do not pass sample count as a parameter to ff_audio_convert()

It will always be the number of samples in the input buffer, so just use that
directly instead of passing it as a separate parameter.

x86: h264_weight: port to cpuflags

configure: Enable avconv filter dependencies automatically

This makes sure minimal configurations such as
"--disable-everything --enable-avconv" will enable the filters
necessary for running avconv, instead of just keeping avconv
disabled (even if the user specified "--enable-avconv").

Signed-off-by: Martin Storsjö <martin@martin.st>

h264: set Picture.owner2 to the current thread

This does not seem to have an effect currently. Fate-h264 passes with
THREADS=1..16 and both threading types as before. It fixes however a
segfault during error resilience with my adaptive-frame-mt patchset.
A picture in use during error resilience gets realloced in another
thread in the fuzzed sample sample_varPAR.avi_s226019.

h264: check ref_count validity for num_ref_idx_active_override_flag

Fixes segfault in the fuzzed sample bipbop234.ts_s226407.

CC: libav-stable@libav.org

h264: add missing new line to log message

dcadec: skip QMF on unused channels

When the extra rear channel is present but unused, the
s->channel_order_tab[] value for that channel is -1. The QMF can be
skipped for the extra channel, and doing so avoids an out-of-array read
on s->samples_chanptr[].

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

wavenc: write fact chunk sample count at the correct file position

Fixes curruption of metadata in the INFO chunk.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

riff: do not add empty metadata tags in INFO chunk

riff: only warn on a bad INFO chunk code size instead of failing

fixes Bug 392

configure: Add separate list for libraries and use where appropriate

x86: float_dsp: add SSE version of vector_fmul_scalar()

dsputil: move vector_fmul_scalar() to AVFloatDSPContext in libavutil

aacenc: use the correct output buffer

This fixes segfault caused by 3d3cf6745e2a5dc9c377244454c3186d75b177fa
when SingleChannelElement.ret was renamed to SingleChannelElement.ret_buf.

Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

aacdec: fix signed overflows in lcg_random()

Signed-off-by: Mans Rullgard <mans@mansr.com>

base64: fix signed overflow in shift

Signed-off-by: Mans Rullgard <mans@mansr.com>

lavf: avoid integer overflow in ff_compute_frame_duration()

Scaling the denominator instead of the numerator if it is too large
loses precision. Fixes an assert caused by a negative frame duration in
the fuzzed sample nasa-8s2.ts_s202310.

CC: libav-stable@libav.org

flashsv: check for keyframe before using differential coding

Fixes a segfault in te fuzzed sample resolutionchange.flv_s211713.

CC: libav-stable@libav.org

h264: enable low delay only if no delayed frames were seen

Dropping frames is undesirable but that is the only way by which the
decoder could return to low delay mode. Instead emit a warning and
continue with delayed frames.
Fixes a crash in fuzzed sample nasa-8s2.ts_s20033 caused by a larger
than expected has_b_frames value. Low delay keeps getting re-enabled
from a presumely broken SPS.

CC: libav-stable@libav.org

x86: fix build without inline asm

The qpel functions referenced here are not related to h264 and should
thus never have been under CONFIG_H264QPEL.

Signed-off-by: Mans Rullgard <mans@mansr.com>
Signed-off-by: Diego Biurrun <diego@biurrun.de>

aacdec: use float planar sample format for output

lavc: clarify get_buffer() documentation

This is needed for the AAC decoder, which may need to call get_buffer()
more than once if the channel configuration changes.

mpegaudiodec: use planar sample format for output unless packed is requested

x86: h264 qpel: use the correct number of utilized xmm regs in cglobal

Fixes xmm register clobbering on win64.

remove #defines to prevent use of discouraged external functions

Preventing the use of discouraged or 'insecure' external functions
through defines in an internal header is not a good solution. The
header is not guaranteed to be included universally which makes
overlooking bad use of said functions during review more likely.

There are cases were those functions either are the most straight
forward solution or even have to be used. Using malloc or free is
required if the allocation or release is done by other libraries.

x86: h264: Convert 8-bit QPEL inline assembly to YASM

Signed-off-by: Diego Biurrun <diego@biurrun.de>

x86: h264: Remove 3dnow QPEL code

The only CPUs that have 3dnow and don't have mmxext are 12 years old.
Moreover, AMD has dropped 3dnow extensions from newer CPUs.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

x86: h264_chromamc: port to cpuflags

yop: fix typo

Signed-off-by: Paul B Mahol <onemda@gmail.com>
Signed-off-by: Justin Ruggles <justin.ruggles@gmail.com>

avconv: fix copying per-stream metadata.

It is handled separately from other types because it uses stream
specifiers and currently that triggers an assert in SET_DICT.

CC:libav-stable@libav.org

doc: avtools-common-opts: Fix terminology concerning metric prefixes

'k', 'M', and 'G' are SI (unit) prefixes or metric prefixes,
not 'number postfixes'. Also, the statement regarding binary
prefixes ("powers of 2 are used instead of powers of 10")
might be misinterpreted (1 kB = 10^3 B, but 1 KiB != 2^3 B).

Signed-off-by: Diego Biurrun <diego@biurrun.de>

configure: suncc: Add compiler arch support for Nehalem & Sandy Bridge

GCC does not appear to have a -march= string for Westmere, which is a
bit surprising as it has a few more instructions than a Nehalem, but
a few less than a Sandy Bridge.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

riff: Make ff_riff_tags static and move under appropriate #ifdef

The table is not used outside the file.

configure: sort cpuflags section by architecture

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: properly support DEC/Compaq compiler

Signed-off-by: Mans Rullgard <mans@mansr.com>

av_memcpy_backptr: optimise some special cases

- Add special cases for offsets of 2, 3, or 4 bytes.  This means the
  offset is always >4 in the generic case, allowing 32-bit copies to
  be used there.
- Don't use memcpy() for sizes less than 16 bytes.

Signed-off-by: Mans Rullgard <mans@mansr.com>

mpegvideo: simplify dxy calculation in hpel_motion()

Signed-off-by: Mans Rullgard <mans@mansr.com>

build: add rules to generate preprocessed source files

This is useful for debugging.  Dependencies for these files are not
generated due to limitations in many compilers.

Signed-off-by: Mans Rullgard <mans@mansr.com>

id3v2: fix reading unsynchronized frames.

Current code would incorrectly process e.g. 'ff 00 ff 00 ff' to
'ff ff ff', while it should be 'ff ff 00 ff'.

Fixes Bug 395.

CC: libav-stable@libav.org

cdgraphics: fix incorrect vertical offset mask in cdg_scroll()

The vertical offset mask 0x07 is suspicious.

    v_off = FFMIN(data[2] & 0x07, CDG_BORDER_HEIGHT - 1);

Note that v_off is up to 11 (CDG_BORDER_HEIGHT - 1), the correct mask
should be 0x0F.

Signed-off-by: Xi Wang <xi.wang@gmail.com>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

apetag: fix error handling in ff_ape_parse_tag()

The following error handling is broken due to signedness.

    int file_size;
    uint32_t tag_bytes;
    int64_t tag_start;
    ...
    tag_start = file_size - tag_bytes - APE_TAG_FOOTER_BYTES;
    if (tag_start < 0) { ... }

Note that tag_bytes is unsigned, which makes the right-hand side of
`tag_start = ...' unsigned, too.  The 32-bit unsigned value is then
zero-extended to 64 bits.  Therefore, tag_start must be non-negative,
and the check (tag_start < 0) is always false, which breaks the error
handling.  This patch fixes the check.

Signed-off-by: Xi Wang <xi.wang@gmail.com>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

flashsv: Drop unused function and struct parameters

pcm: fix decoding of pcm_s16le_planar on big-endian

The sample count is decremented by the DECODE() macro and needs to be reset
in each loop iteration. Also, DECODE() increments the src pointer so that does
not need to be done separately.

imgconvert: remove PixFmtInfo

It is pleonastic and was used in stale functions pending replacement.

avcodec: split avpicture from imgconvert

All the non deprecated functions are in avpicture.c now.

pixdesc: add PIX_FMT_ALPHA flag