qdm2: remove unneeded checks for channel count

qdm2: make sure channels is not <= 0 and set channel layout

qcelpdec: set channel layout

nellymoserdec: set channels to 1

libopencore-amr: set channel layout for amr-nb or if not set by the user

libilbc: set channel layout

dpcm: use AVCodecContext.channels instead of keeping a private copy

imc: set channels to 1 instead of validating it

gsmdec: always set channel layout and sample rate at initialization

Only mono 8kHz is supported.

libgsmdec: always set channel layout and sample rate at initialization

Only mono 8kHz is supported.

g726dec: do not validate sample rate

For decoding it does not really matter what the sample rate is.

g726dec: set channel layout at initialization instead of validating it

flacdec: do not warn on sample rate change

flacdec: allow mid-stream channel layout change

Although the libFLAC decoder cannot handle such a change, it is allowed by the
spec and could potentially occur with live streams.

flacdec: use av_samples_* functions for sample buffer allocation

Also, return an error on allocation failure.

dcadec: allow the decoder to change the channel layout mid-stream

cook: use av_dlog() for debug logging instead of av_log() with AV_LOG_ERROR

cook: move samples_per_frame from COOKSubpacket to where it is used

cook: use av_get_channel_layout_nb_channels() instead of cook_count_channels()

cook: reverse a condition so that the code makes more sense

cook: remove unneeded COOKContext variable, sample_rate

cook: remove unneeded COOKContext variable, bit_rate

cook: use AVCodecContext.channels instead of keeping a private copy

bmvaudio: set channel layout at init() rather than validating it

atrac1: do not keep a copy of channel count in the private context

dsicinaudio: set channels and channel layout

g722dec: set channel layout at initialization instead of validating it

amrwbdec: set channels, channel_layout, and sample_rate

Only mono 16kHz is supported.

amrnbdec: set channels, channel_layout, and sample_rate

Only mono 8kHz is supported.

dca_parser: allow the parser to change the sample rate

lavc: check channel count after decoder init

Ensures the decoder did not set channel count to an insanely high value
during initialization, which could cause large memory usage when it tries to
get a buffer during decoding.

lavc: move SANE_NB_CHANNELS to internal.h and use it in the PCM decoders

fate: add ac3/eac3 tests to FATE_SAMPLES_AVCONV

Fixes typo in 2cbdd7c92958cb8226491d8eb23ed2d57d4b841e.

avconv_opt, cmdutils: Add missing function parameter Doxygen

x86: Move optimization suffix to end of function names

This simplifies cpuflags porting.

x86: h264_chromamc_10bit: drop pointless PAVG %define

It is only used in one place so there is no need for the abstraction.

x86: mmx2 ---> mmxext in function names

swscale: do not forget to swap data in formats with different endianness

Otherwise during scaling it will try to interpret input in the wrong way and
that leads to the test results disagreeing on different platforms and with
different optimizations.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

aacdec: Drop some unused function arguments

x86: Fix assembly with NASM

Unlike YASM, NASM only looks for include files in the current
directory, not in the directory that included files reside in.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

x86: fmtconvert: Refactor cvtps2pi emulation through cpuflags

x86: fmtconvert: port to cpuflags

x86: MMX2 ---> MMXEXT in macro names

x86: mmx2 ---> mmxext in variable names

x86: mmx2 ---> mmxext in comments and messages

x86: yasm: Use complete source path for macro helper %includes

This is more consistent with the way we handle C #includes and
it simplifies the build system.

x86: include x86inc.asm in x86util.asm

This is necessary to allow refactoring some x86util macros with cpuflags.

cng: Reindent some incorrectly indented lines

Signed-off-by: Martin Storsjö <martin@martin.st>

cngdec: Allow flushing the decoder

After a flush, don't average the output envelope and energy with
previous iterations.

Also start directly from the target values for the first iteration
at startup.

Signed-off-by: Martin Storsjö <martin@martin.st>

cngdec: Make the dbov variable have the right unit

Previously the unit of the variable was Bov, not dBov.

Signed-off-by: Martin Storsjö <martin@martin.st>

cngdec: Fix the memset size to cover the full array

This was a leftover from previous iterations of the code, where the
refl coef arrays were statically allocated.

Signed-off-by: Martin Storsjö <martin@martin.st>

cngdec: Update the LPC coefficients after averaging the reflection coefficients

I somehow messed up the placement of this one.

Signed-off-by: Martin Storsjö <martin@martin.st>

configure: fix print_config() with broke awks

Some awk versions do not treat the result of unary + on a (numeric)
string as numeric, giving wrong results when used in a boolean context
Using unary - instead is logically equivalent works as expected.

Signed-off-by: Mans Rullgard <mans@mansr.com>

pixfmt: support more yuva formats

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

swscale: support gray to 9bit and 10bit formats

With the input of Kostya and Ronald.

configure: rewrite print_config() function using awk

This is much faster with slow shells and noticeably faster even
with bash on a fast Linux system.

Signed-off-by: Mans Rullgard <mans@mansr.com>

FATE: fix (AD)PCM test dependencies broken in e519990

Signed-off-by: Diego Biurrun <diego@biurrun.de>

Use ptrdiff_t instead of int for intra pred "stride" function parameter.

This way, SIMD-optimized functions don't have to sign-extend their
stride argument manually to be able to do pointer arithmetic.

x86: use PRED4x4/8x8/8x8L/16x16 macros to declare intrapred prototypes.

Remove INIT_AVX from x86inc.asm.

Remove usage of INIT_AVX in h264_intrapred_10bit.asm.

Replace INIT_AVX by INIT_XMM avx. Port the whole file to use cpuflag
based function declarations. Remove (now unused) cputype argument in
function declaration macros. Change function prototypes to have mmx2
instead of mmxext as suffix, since that's required by cpuflags.

dv: fix indentation

dv: use AVStream.index instead of abusing AVStream.id

lavfi: add ashowinfo filter

It can be useful for debugging.

Based on a patch by Stefano Sabatini <stefano.sabatini-lala@poste.it>

avcodec: Add a RFC 3389 comfort noise codec

This isn't too useful as a normal codec, but can be used in
voip style applications. The decoder updates the noise
generator parameters when a packet is given to it for decoding,
but if called with an empty packet, it generates more noise
according to the last parameters.

Signed-off-by: Martin Storsjö <martin@martin.st>

lpc: Add a function for calculating reflection coefficients from samples

Signed-off-by: Martin Storsjö <martin@martin.st>

lpc: Add a function for calculating reflection coefficients from autocorrelation coefficients

Signed-off-by: Martin Storsjö <martin@martin.st>

lavr: document upper bound on number of output samples.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavr: add general API usage doxy

Signed-off-by: Anton Khirnov <anton@khirnov.net>

indeo3: remove duplicate capabilities line.

fate: ac3: Add dependencies

fate: ac3: Place E-AC-3 tests and AC-3 tests in different groups

fate: Add shorthands for acodec PCM and ADPCM tests

avconv: Drop unused function argument from do_video_stats()

cmdutils: Conditionally compile libswscale-related bits

This fixes compilation with libswscale disabled.

aacenc: Drop some unused function arguments

rtsp: Avoid a cast when calling strtol

This gets rid of this warning:

libavformat/rtsp.c: In function ‘rtsp_parse_transport’:
libavformat/rtsp.c:794: warning: cast discards qualifiers from pointer target type

Signed-off-by: Martin Storsjö <martin@martin.st>

nut: support textual data

Plain text (utf8 encoded) data can be muxed and demuxed in nut.

nutenc: verbosely report unsupported negative pts

Additionally use the correct error number.

lavc: add CODEC_CAP_DR1 to all video decoders missing them

rtpdec: Cosmetic cleanup

Mainly clean up the RTP statistics code, plus a few other obviously
misindentend lines.

Remove some useless comments, de-doxygenize some comments,
add spacing around operators and fix a typo.

Signed-off-by: Martin Storsjö <martin@martin.st>

yuv4mpeg: reject unsupported codecs

The muxer already rejects unsupported pixel formats, reject also
unsupported codecs to prevent dangerous misuses.

nutenc: K&R formatting cosmetics

assdec: fix qsort() callback signature

This changes the event_cmp() function to the correct signature,
avoiding an ugly cast.

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: detect sparc64 automatically

Signed-off-by: Mans Rullgard <mans@mansr.com>

vp8: fix memset() crossing array boundary

Indexing across array boundaries is not allowed by C99.

Signed-off-by: Mans Rullgard <mans@mansr.com>

h264: fix invalid pointer arithmetic

Subtracting a (positive) value from the address of an array violates
C99 section 6.5.6:

  If both the pointer operand and the result point to elements of the
  same array object, or one past the last element of the array object,
  the evaluation shall not produce an overflow; otherwise, the
  behavior is undefined.

Signed-off-by: Mans Rullgard <mans@mansr.com>

amrwbdec: fix invalid pointer arithmetic

Subtracting a (positive) value from the address of an array violates
C99 section 6.5.6:

  If both the pointer operand and the result point to elements of the
  same array object, or one past the last element of the array object,
  the evaluation shall not produce an overflow; otherwise, the
  behavior is undefined.

Signed-off-by: Mans Rullgard <mans@mansr.com>

avio: fix pointer type mismatches in avio_enum_protocols()

Signed-off-by: Mans Rullgard <mans@mansr.com>

avserver: use socklen_t where appropriate

Various socket functions expect a pointer to socklen_t which is not
necessarily int.

Signed-off-by: Mans Rullgard <mans@mansr.com>

udp: use socklen_t where appropriate

getsockname() takes a pointer to socklen_t which is not necessarily
int.

Signed-off-by: Mans Rullgard <mans@mansr.com>

network: use HAVE_THREADS instead of local hack

HAVE_THREADS is set in config.h if pthreads or w32threads is
available, which presumably the proper condition here.

Also fixes undefined behaviour in preprocessor directives.

Signed-off-by: Mans Rullgard <mans@mansr.com>

af_channelmap: remove stray enum declaration

Signed-off-by: Mans Rullgard <mans@mansr.com>

buffersink: remove stray semicolon after function definition

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: fix tests for 2-arg math functions

Signed-off-by: Mans Rullgard <mans@mansr.com>

doc: git-howto: Clarify comment about pushing series of commits

ivi_common: Drop unused function parameter from decode_band()

cook: Remove some silly Doxygen comments

cook: Remove senseless maybe_reformat_buffer32() function

cook: cosmetics: Better names for joint_decode() function parameters