ffmpeg: check return code from av_vsrc_buffer_add_frame()
Fixed Ticket770
Bug found by: Diana Elena Muscalu

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

lavd/lavfi: remove a duplicated line.

smacker: Check for overread in smka_decode_frame()
Fixes a segfault with wetlog_fail.smk
Bug found by: Shitiz Garg

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libavdevice: Fix v4l2 compilation under FreeBSD

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

lavf: update rfps debug code.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

lavf: Fix fps misdetection when codec_info_duration is 0 and only a few frames are used to estimate fps.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mov: Fix near infinite loop in stsd parsing.
Fixes Ticket768
Bug found by: Diana Elena Muscalu

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

westwooddemuxer: use av_get_packet()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

westwooddemuxer: Fix 1gb alloc
Fixes Ticket765
Bug Found by: Diana Elena Muscalu

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fix linesize for bmp with bitdepth < 8.

Fixes ticket #751.

lavf: add SBG demuxer.

lavc: add ffwavesynth pseudo-codec.

arm: add back ldr_dpren macro that was lost.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: fix midstream extardata handling with dump.f4v

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

jpegdec: check return value of mjpeg_decode_dc()
Fixes Ticket754

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: Fix build with --disable-everything --enable-decoder='h264' --disable-optimizations

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h263dec: Fix regression / crash with lowres.
Fixes Ticket757
Bug Found by: ami_stuff

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

flicvideo: input buffer pointer checks.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

flicvideo: fix overread.
Bug Found by: Diana Elena Muscalu

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

aacsbr: Fix memory corruption.
Fixes Ticket760 and Ticket761
Bug Found by: Diana Elena Muscalu

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h264: check chroma_format_idc range.
Fixes Ticket758
Bug found by: Diana Elena Muscalu

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

indeo3: check return values of allocate_frame_buffers()
Bug Found by: Diana Elena Muscalu

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mtv: Fix FPE with 0 dimensions.
Fixes Ticket755
Bug Found by: Diana Elena Muscalu

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Revert "mpegvideo: remove abort() in ff_find_unused_picture()"

This reverts commit 4f820131fa9fbb0a64d7cc469fa471905fc91944.

It is better to abort() than to have remotly exploitable arbitrary code
execution bugs. Even more so that this abort has never been triggered
by any input people threw at it.
If after more extensive testing its removial is found safe we can remove
the abort() later.

Merge remote-tracking branch 'qatar/master'

* qatar/master: (23 commits)
  applehttp: Properly clean up if unable to probe a segment
  applehttp: Avoid reading uninitialized memory
  fate: Replace misleading "aac" in the name of an ADTS test with "adts".
  fate: Drop pointless "-an" from pictor test command.
  fate: split off image codec FATE tests into their own file
  fate: split off WMA codec FATE tests into their own file
  fate: split off lossless video and audio FATE tests into their own files
  fate: split off qtrle codec FATE tests into their own file
  fate: split off Ut Video codec FATE tests into their own file
  fate: split off screen codec FATE tests into their own file
  fate: split off Real Inc. codec FATE tests into their own file
  fate: split off AC-3 codec FATE tests into their own file
  mpegvideo: remove abort() in ff_find_unused_picture()
  rv40: NEON optimised loop filter strength selection
  rv40: rearrange loop filter functions
  configure: cosmetics: sort some lists where appropriate
  swscale_mmx: drop no longer required parameters from VSCALEX macros
  swscale: Mark yuv2planeX_8_mmx as MMX2; it contains MMX2 instructions.
  build: conditionally compile x86 H.264 chroma optimizations
  v410 encoder and decoder
  ...

Conflicts:
Changelog
configure
doc/developer.texi
doc/general.texi
libavcodec/arm/asm.S
libavcodec/avcodec.h
libavcodec/v410dec.c
libavcodec/v410enc.c
libavcodec/version.h
libavcodec/x86/Makefile
libavcodec/x86/dsputil_mmx.c
libswscale/x86/swscale_mmx.c
tests/Makefile
tests/fate2.mak

Merged-by: Michael Niedermayer <michaelni@gmx.at>

dnxhdenc: remove unused variable from context

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ljpeg: Check that lowres is 0 as lowres is not possible with ljpeg.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge remote-tracking branch 'cus/stable'

* cus/stable:
  ffplay: clear pkt_temp when pkt is freed.
  ffplay: Fix got_frame type.
  ffplay: add 10 minute seek support to ffplay
  ffplay: force setting video mode on fullscreen toggle

Merged-by: Michael Niedermayer <michaelni@gmx.at>

4xm: check if there are bits left in decode_i_block()
Fixed Ticket753
Bug Found by: Diana Elena Muscalu

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

riff: Fix freeing of random value.
Fixes Ticket752
Bug-found-by: Diana Elena Muscalu

ffplay: clear pkt_temp when pkt is freed.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Marton Balint <cus@passwd.hu>

ffplay: Fix got_frame type.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Marton Balint <cus@passwd.hu>

ffplay: add 10 minute seek support to ffplay

Signed-off-by: Marton Balint <cus@passwd.hu>

ffplay: force setting video mode on fullscreen toggle

Fixes ticket #736. Based on the patch by glangshaw.

Signed-off-by: Marton Balint <cus@passwd.hu>

applehttp: Properly clean up if unable to probe a segment

This avoids a segfault if the probe function wasn't able to
determine the format.

The bug was found by Panagiotis H.M. Issaris.

Signed-off-by: Martin Storsjö <martin@martin.st>

applehttp: Avoid reading uninitialized memory

Signed-off-by: Martin Storsjö <martin@martin.st>

fate: Replace misleading "aac" in the name of an ADTS test with "adts".

fate: Drop pointless "-an" from pictor test command.

fate: split off image codec FATE tests into their own file

fate: split off map_channel tests.

Also introduce a fate-mapchan rule for all of them.

fate: split off WMA codec FATE tests into their own file

fate: split off lossless video and audio FATE tests into their own files

fate: split off qtrle codec FATE tests into their own file

fate: split off Ut Video codec FATE tests into their own file

fate: split off screen codec FATE tests into their own file

fate: split off Real Inc. codec FATE tests into their own file

fate: split off AC-3 codec FATE tests into their own file

mpegvideo: remove abort() in ff_find_unused_picture()

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

Prevent segfault if iformat was not yet initialized.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mpeg12enc: fix drop_frame_timecode value

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Cosmetics: Improve 'too short LIST' error message in wav.c.

Do not reject LIST tags in wav with size 4.

Fixes ticket #745.

Detect 'yuv2' as rawvideo also in avi.

rv40: NEON optimised loop filter strength selection

Signed-off-by: Mans Rullgard <mans@mansr.com>

rv40: rearrange loop filter functions

This splits the loop filter functions into smaller, more SIMD-friendly
functions.

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: cosmetics: sort some lists where appropriate

swscale_mmx: drop no longer required parameters from VSCALEX macros

swscale: Mark yuv2planeX_8_mmx as MMX2; it contains MMX2 instructions.

build: conditionally compile x86 H.264 chroma optimizations

cosmetic: consistent spacing over the Changelog.

fate: fix v410 on big endian

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

fate: Add FATE tests for v410 encoder and decoder

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

v410 encoder and decoder

v410 is a packed 10-bit 4:4:4 YCbCr format used in
QuickTime.

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

MAINTAINERS: add 0.9

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ac3dec: update checked AV_EF flags.

A user who wishes to use default error concealment cannot set the
AV_EF_CRCCHECK flag because not every CRC in every format is a
reliable indicator of bitstream damage. In some formats crcrs
can be nonsensical in absence of any damage. We thus add the
AV_EF_CAREFUL flag in addition to the AV_EF_CRCCHECK flag to
allow a user to enable this reliable CRC check without having to
enable all CRC checks in all formats.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

v410 encoder and decoder

v410 is a packed 10-bit 4:4:4 YCbCr format used in
QuickTime.

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>
Signed-off-by: Diego Biurrun <diego@biurrun.de>

doc: make developer.texi point to correct fate doc

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>
Signed-off-by: Diego Biurrun <diego@biurrun.de>

build: rename subdir.mak ---> library.mak

configure: do not manually enable protocols

Protocols are handled just like all other components groups such as
muxers and are automatically enabled.

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  ulti: Fix invalid reads
  lavf: dealloc private options in av_write_trailer
  yadif: support 10bit YUV
  vc1: mark with ER_MB_ERROR bits overconsumption
  lavc: introduce ER_MB_END and ER_MB_ERROR
  error_resilience: use the ER_ namespace
  build: move inclusion of subdir.mak to main subdir loop
  rv34: NEON optimised 4x4 dequant
  rv34: move 4x4 dequant to RV34DSPContext
  aacdec: Use intfloat.h rather than local punning union.

Conflicts:
libavcodec/h264.c
libavcodec/vc1dec.c
libavfilter/vf_yadif.c
libavformat/Makefile

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Support "VLB " audio in NSV files.

See samples/nsv/vlb_audio.

Signed-off-by: Reimar Döffinger <Reimar.Doeffinger@gmx.de>

cleanup: for(int

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

clenaup: #ifdec CONFIG*

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

lavfi: use the new audio API in amovie source filter.

lavfi: skip the frame in case of error.

This fixes playback with some audio files through filters.

lavc: set pkt_?ts to NOPTS in get_frame_defaults.

Idea-by: ubitux
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fix all GNU %Ld

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

twinnvq: remove ;;

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

decoding example: reset pts/dts after subpacket.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ffmpeg: reset dts/pts after decoding the first subpacket

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ulti: Fix invalid reads

Signed-off-by: Martin Storsjö <martin@martin.st>

lavf: dealloc private options in av_write_trailer

Fix the iformat/oformat typo.

yadif: support 10bit YUV

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

vc1: mark with ER_MB_ERROR bits overconsumption

This patch is a generalization of what Michael Niedermayer
fixed in a single case.

The wmv8-drm fate test had been updated accordingly.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

lavc: introduce ER_MB_END and ER_MB_ERROR

Simplify a little error resilience calls

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

error_resilience: use the ER_ namespace

Add the namespace to {AC_,DC_,MV_}{END,ERROR} macros

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

msrledec: Check for overreads

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

aascdec: Check input buffer size on raw data.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

build: move inclusion of subdir.mak to main subdir loop

Signed-off-by: Mans Rullgard <mans@mansr.com>

rv34: NEON optimised 4x4 dequant

Signed-off-by: Mans Rullgard <mans@mansr.com>

rv34: move 4x4 dequant to RV34DSPContext

Signed-off-by: Mans Rullgard <mans@mansr.com>

aacdec: Use intfloat.h rather than local punning union.

mp4enc: Avoid storing sizes in trun when they all match.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mp4enc: Only store flags in trun when they differ from the default and set a sane default.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mp4enc: dont store durations in trun if they are unneeded.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mp4enc: dont store cts in trun if they are unneeded.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

lavc: use hexadecimal debug print for showing err_recognization values.
They are flags which makes them easier to read as hex than decimal.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

msmpeg4dec: restore error concealment functionality after merge

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mpeg4dec: restore error concealment functionality after merge

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

h263dec: restore error concealment functionality after merge

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>