huffyuvenc: support alphaless rgb32

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

huffyuvenc: store alpha for bgr32

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

swscale: alpha less rgb32 support.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

pixfmt: Add 32bit rgb without alpha formats

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  vc1: use an enum for Frame Coding Mode
  doc: cleanup filter section
  indeo3: error out if no motion vector is set.
  x86inc: Flag shufps as an floating-point instruction for the AVX emulation code.
  mpegaudio: do not use init_static_data() for initializing tables.
  musepack: fix signed shift overflow in mpc_read_packet()
  mov: Make format string match variable type.
  wmavoice: Make format string match variable type.
  vc1: select interlaced scan table by FCM element
  Generalize RIFF INFO tag support; support reading INFO tag in wav
  pthread: track thread existence in a separate variable.

Conflicts:
doc/filters.texi
libavcodec/pthread.c
libavformat/avi.c
libavformat/riff.c
libavformat/riff.h
libavformat/wav.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

vc1: use an enum for Frame Coding Mode

Document it a little and possibly fix a bug in dxva2_vc1.

doc: cleanup filter section

Use the @command{} tag when needed and cleanup the examples.

x86inc: Flag shufps as an floating-point instruction for the AVX emulation code.

Without this, code like "shufps m0, m1, m2, 0xaa" would not work in CPUs
not supporting SSE2.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

indeo3: error out if no motion vector is set.

This fixes a crash on a corrupt bitstream (bugzilla #93).

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

x86inc: Flag shufps as an floating-point instruction for the AVX emulation code.

Without this, code like "shufps m0, m1, m2, 0xaa" would not work in CPUs
not supporting SSE2.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

aacenc: make the aac coder user choosable.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

aacenc: add AAC_CODER_NB

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

cmdutils: pass AVCodec to filter_codec_opts()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mpegaudio: do not use init_static_data() for initializing tables.

It is called once for each mpegaudio codec that is registered, which adds
significant overhead.

img2: update first file only when -updatefirst is specified

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

tta: better check for totalframes.
Avoids crash, Fixes Ticket 690

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

img2: Allow writing multiple files onto the same output file.
Fixes Ticket687

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

musepack: fix signed shift overflow in mpc_read_packet()

Using an unsigned variable avoids problems with overflows.
There is further no need for a 64-bit intermediate here.

Signed-off-by: Mans Rullgard <mans@mansr.com>

pthread: check pthread_create() return value.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

pthread: next try on freeing threads without crashing.
This should fix mingw

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mov: Make format string match variable type.

wmavoice: Make format string match variable type.

vc1: select interlaced scan table by FCM element

Interlaced videos can contain progressive frames too and now wrong scantable
is selected for them.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

HAM6/HAM8 support for IFF ACBM decoder

Based on patch by ami_stuff

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

iff: fix invalid reads (ticket 689)

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Generalize RIFF INFO tag support; support reading INFO tag in wav

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

pthread: track thread existence in a separate variable.

This fixes a compile error on mingw32 when using p->thread
directly (as if it were a pointer) to track thread existence,
because the type is opaque and may be a non-pointer.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

vc1: select interlaced scan table by FCM element

Interlaced videos can contain progressive frames too and now wrong scantable
is selected for them.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge remote-tracking branch 'qatar/master'

* qatar/master: (42 commits)
  swscale: fix signed overflow in yuv2mono_X_c_template
  snow: fix integer overflows
  svq1enc: remove stale altivec-related hack
  snow: fix signed overflow in byte to 32-bit replication
  adx: rename ff_adx_decode_header() to avpriv_adx_decode_header()
  avformat: add CRI ADX format demuxer
  adx: add an ADX parser.
  adx: move header decoding to ADX common code
  adx: calculate the number of blocks in a packet
  adx: define and use 2 new macro constants BLOCK_SIZE and BLOCK_SAMPLES
  adx: check for unsupported ADX formats
  adx: simplify encoding by using put_sbits()
  adx: calculate correct LPC coeffs
  adx: use 12-bit coefficients instead of 14-bit to avoid integer overflow
  adx: simplify adx_decode() by using get_sbits() to read residual samples
  adx: fix the data offset parsing in adx_decode_header()
  adx: remove unneeded post-decode channel interleaving
  adx: validate header values
  adx: cosmetics: general pretty-printing and comment clean-up
  adx: remove useless comments
  ...

Conflicts:
Changelog
libavcodec/cook.c
libavcodec/fraps.c
libavcodec/nuv.c
libavcodec/pthread.c
libavcodec/version.h
libavformat/Makefile
libavformat/version.h

Merged-by: Michael Niedermayer <michaelni@gmx.at>

swscale: fix signed overflow in yuv2mono_X_c_template

As old bits are shifted out of the accumulator, they cause signed
overflows when they reach the end.  Making the variable unsigned fixes
this.

Signed-off-by: Mans Rullgard <mans@mansr.com>

snow: fix integer overflows

The way these values are used, they should have an unsigned type.
A similar change was made for mpegvideo in cb66847.

Signed-off-by: Mans Rullgard <mans@mansr.com>

svq1enc: remove stale altivec-related hack

altivec.h is no longer (indirectly) included, so this hack is not
needed.

Signed-off-by: Mans Rullgard <mans@mansr.com>

snow: fix signed overflow in byte to 32-bit replication

Signed-off-by: Mans Rullgard <mans@mansr.com>

fate: enable new sbr tests after our rsync server has them now.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

vc1: Fix pic_header_flag=0 (SA10143.vc1)
Bug introduced in:
commit 4509be3d2f46a52ada8e2ecb476faed93e19abf3
Author: Michael Niedermayer <michaelni@gmx.at>
Date:   Tue Oct 11 11:56:42 2011 +0200

    vc1: reset interlaced variables, prevent another bunch of crashes.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

adx: rename ff_adx_decode_header() to avpriv_adx_decode_header()

It is used by the ADX decoder, and therefore needs to be exported in order to
work with shared libs.

avformat: add CRI ADX format demuxer

adx: add an ADX parser.

This simplifies the decoder so it doesn't have to process an in-packet header
or handle arbitrary-sized packets. It also fixes decoding of files with large
headers.

adx: move header decoding to ADX common code

adx: calculate the number of blocks in a packet

adx: define and use 2 new macro constants BLOCK_SIZE and BLOCK_SAMPLES

adx: check for unsupported ADX formats

adx: simplify encoding by using put_sbits()

adx: calculate correct LPC coeffs

Instead of using fixed coefficients, the correct way is to calculate the
coefficients using the highpass cutoff frequency from the ADX stream header
and the sample rate.

adx: use 12-bit coefficients instead of 14-bit to avoid integer overflow

adx: simplify adx_decode() by using get_sbits() to read residual samples

adx: fix the data offset parsing in adx_decode_header()

first 2 bytes are 0x80, 0x00. offset is only 16-bit.
this is according to format descriptions on multimedia wiki and wikipedia.

adx: remove unneeded post-decode channel interleaving

instead interleave channels while decoding

adx: validate header values

adx: cosmetics: general pretty-printing and comment clean-up

adx: remove useless comments

adx: change short to int16_t

adx: rename struct PREV to ADXChannelState

dnxhdenc: fix signed overflows

Signed-off-by: Mans Rullgard <mans@mansr.com>

dv: simplify bitstream splicing in dv_decode_ac()

This is simpler and fixes some overflow checker warnings.

Signed-off-by: Mans Rullgard <mans@mansr.com>

s3tc: fix shift overflow by using unsigned constant

Signed-off-by: Mans Rullgard <mans@mansr.com>

svq1enc: fix signed multiplication overflow

This multiplication can overflow the signed range but not the
unsigned.  After right-shifting it will thus fit in the signed
range again.

Signed-off-by: Mans Rullgard <mans@mansr.com>

svq1dec: use sign_extend()

Signed-off-by: Mans Rullgard <mans@mansr.com>

rv34: fix signed multiplication overflow

Multiply by unsigned 0x01010101 to replicate bytes into 32-bit
word.

Signed-off-by: Mans Rullgard <mans@mansr.com>

[PATCH] Fix crash when initializing multi-threaded decoding for corrupted file.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

avfilter: fix AVFilterPad video only comment.

lavfi-showfiltfmts.c: fix handling of null names

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

pthreads: fix segfault due to the thread beimg killed before it has been allocated

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

aacdec: Fix Sound fragments after seeking
Fixes Ticket420

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

opt_pix_fmts: try to fix segfault on open solaris

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

sol: use AV_RL32 instead of raw pointer cast

Signed-off-by: Mans Rullgard <mans@mansr.com>

cook: use a table for xor key rotation

This is simpler and avoids an invalid shift by 32 in the
aligned case.

Signed-off-by: Mans Rullgard <mans@mansr.com>

apedec: fix signed integer overflows

This bit manipulation is equivalent but avoids undefined
shifts and overflows.

Signed-off-by: Mans Rullgard <mans@mansr.com>

qtrle: simplify 32-bit decode using intreadwrite macros

Signed-off-by: Mans Rullgard <mans@mansr.com>

gif: fix invalid signed shifts

Signed-off-by: Mans Rullgard <mans@mansr.com>

lavfi: add libass based subtitles renderer

rtjpeg: simplify get_block() by using get_bits_left.

Signed-off-by: Reimar Döffinger <Reimar.Doeffinger@gmx.de>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

rtjpeg: check get_block return value for error.

This avoids crashes due to reading out-of-bounds.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

nuv: check per-frame header for validity.

Since it contains dimensions parsing an invalid one has rather
annoying effects.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

nuv: use FFALIGN.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

flicvideo: check extradata_size before accessing extradata.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

fraps: check for overread.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

cook: fix apparent typo in extradata parsing

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavc: update doxy to use nondeprecated API.

swscale: remove duplicate code from yesterdays merge.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  swscale: Readd #define _SVID_SOURCE
  Fix av_get_channel_layout_string() for positions >31
  configure: Store vda lib flags in extralibs instead of ldflags
  Make channel layout masks unsigned
  dca: ARMv6 optimised decode_blockcode()
  nullenc: drop AVFMT_RAWPICTURE from the flags
  frame-mt: return consumed packet size in ff_thread_decode_frame
  aacdec: add more fate tests covering SBR and PS
  MK(BE)TAG: avoid undefined shifts

Conflicts:
configure
libavcodec/arm/dca.h
libavcodec/dca.c
libavcodec/mlp_parser.c
libavcodec/version.h
libavfilter/asrc_anullsrc.c
libavfilter/avfilter.c
libavfilter/avfilter.h
libavfilter/defaults.c
libavutil/audioconvert.c
libavutil/avutil.h
libswscale/utils.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

configure: sort entries

vc1dec: fix scantable for advanced P frames
Fixes: vc1 file from Ticket606
Fixes: vc1+vc1+++artifacts*.vc1
Fixes: mpeg+vc1+++salxxos.evo
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

vc1dec: fix 10l typo

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

vc1dec: drop damaged B frames
Fixes: vc1_error_spilt.avi of Ticket606
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

vc1dec: fix used ER flags in vc1_decode_b_blocks()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

swscale: Readd #define _SVID_SOURCE

This was removed erroneously in
046f081b46c8479820409cf8f530b988221bd15b. This define still is
necessary for getting MAP_ANONYMOUS defined on linux/glibc,
despite the define reshuffling done in that commit.

Without MAP_ANONYMOUS defined, the mprotect calls for setting the
generated mmx2 scaler code pages executable are left out, causing
crashes if that codepath is chosen.

This patch fixes scaling from 192x144 to 320x240 with
-sws_flags fast_bilinear, which crashes on linux at the
moment.

Signed-off-by: Martin Storsjö <martin@martin.st>

indeo3: out of array read checks for decode_plane()
Fixes: avi+indeo3+++1-dog.avi
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

indeo3: Check remaining bits in parse_bintree()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

H264: Check if more RBSP data in PPS provided by current profile due to Annex A.
This patch also fix issue https://ffmpeg.org/trac/ffmpeg/ticket/685.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fix av_get_channel_layout_string() for positions >31

A value shifted left by >31 needs to have a 64-bit type.
As there are no defined channels in this range, the fix
is purely theoretical at this point, although it does
avoid some invalid shifts triggering the overflow
checker.

Signed-off-by: Mans Rullgard <mans@mansr.com>

ffmpeg: Warn if output file is empty

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

configure: Store vda lib flags in extralibs instead of ldflags

This way the needed linking flags end up in libavcodec.pc.

Signed-off-by: Martin Storsjö <martin@martin.st>

RELEASE: We're now at 0.8.7.git

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Make channel layout masks unsigned

It makes more sense for a bit mask to use an unsigned type.
The change should be source and binary compatible on all
supported systems, hence micro version bump.

Fixes a few invalid shifts.

Signed-off-by: Mans Rullgard <mans@mansr.com>

dca: ARMv6 optimised decode_blockcode()

This is a hand-tuned version of the code with impossible parts of
the FASTDIV function ommitted.

2-5% faster overall on Cortex-A8.

Signed-off-by: Mans Rullgard <mans@mansr.com>

ffprobe: always print int values with print_val()

In particular, make the json writer write size values, fix regression
introduced with the addition of the print_val() macro.

nullenc: drop AVFMT_RAWPICTURE from the flags

This makes the two pass encoding with x264 working with -f null - as
first pass.

frame-mt: return consumed packet size in ff_thread_decode_frame

This is required to fulfill avcodec_decode_video2() promise to return
the number of consumed bytes on success.

aacdec: add more fate tests covering SBR and PS

Add all seven test bitstreams of Coding Technologies "aacPlus Decoder
Check Package". The streams cover different ways to signal SBR and PS
in different formats.