h264: vdpau: fix crash with unsupported colorspace

The h264_vdpau decoder crashed if output colorspace was not 8-bit 420.
Add a check to error out instead (current hardware does not support
other colorspaces, so successful decoding is not possible).

Check implemented at a different place by michael, thus blame for bugs goes to michael
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  mpegvideo_enc: don't use deprecated avcodec_encode_video().
  cmdutils: refactor -codecs option.
  avconv: make -shortest a per-output file option.
  lavc: add avcodec_descriptor_get_by_name().
  lavc: add const to AVCodec* function parameters.
  swf(dec): replace CODEC_ID with AV_CODEC_ID
  dvenc: don't use deprecated AVCODEC_MAX_AUDIO_FRAME_SIZE
  rtmpdh: Do not generate the same private key every time when using libnettle
  rtp: remove ff_rtp_get_rtcp_file_handle().
  rtsp.c: use ffurl_get_multi_file_handle() instead of ff_rtp_get_rtcp_file_handle()
  avio: add (ff)url_get_multi_file_handle() for getting more than one fd
  h264: vdpau: fix crash with unsupported colorspace
  amrwbdec: Decode the fr_quality bit properly

Conflicts:
Changelog
cmdutils.c
cmdutils_common_opts.h
doc/ffmpeg.texi
ffmpeg.c
ffmpeg.h
ffmpeg_opt.c
libavcodec/h264.c
libavcodec/options.c
libavcodec/utils.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

doc/muxers: simplify segment examples

The simplifications are due to the recent option changes.

lavf/segment: change default value for segment_list_size option, from 5 to 0

This is technically a major compatibility break, but seems the most
natural default and what users would expect without reading the docs.

lavf/segment: guess list type from list filename suffix

lavfi/mp: remove framestep wrapped filter

An equivalent framestep filter has been natively integrated.

lavfi: add framestep filter

This filter is inspired upon libmpcodecs/vf_framestep.c, by Daniele
Forghieri.

Only-keyframe output is not supported, since that feature can be achieved
through the more versatile select filter.

lavfi/testsrc: set output framerate

lavf/segment: add M3U8 list support

Address trac ticket #1642.

lavf/segment: compute max list segment duration

This is useful for the M3U8 format incoming patch.

lavf/segment: create segment_list_open and close functions

Allow factorization for the incoming patches, and avoid code/logic
duplication.

lavf/segment: fix bogus segment index rewrapping logic

Decouple segment index wrapping and segment count logic. The counter
should not be reset since it detects the segment increasing timeframe.

lavf/segment: move file description to @file doxy

lavf/avio: flush internal buffer when calling avio_close()

This seems the expected behavior.

lavf/avio.h: doxygen avio_flush()

ffmpeg,ffplay: show filter options

Address trac ticket #1599.

lavfi: add priv class to filter definitions and flags to filter internal options

This allows the iteration callbacks to discover the internal class and
options, and show them when required.

lavfi/movie: split class definitions for movie and amovie

This is required for iterating through the filter class (without
incurring into a loop).

lavfi/lut: duplicate class definitions for each lut variant filter

This is due to the design of components iteration through AVClass
child_class_next() callback, which requires that two components cannot
share the same class.

doc/Makefile: add doc target, as an alias for "documentation"

Consistent with --enable-doc, and easier to type.

lavc/tscc: use reget_buffer.

The previous code would release the buffer and get it
immediately after, assuming the contents is the same.

mpegvideo_enc: don't use deprecated avcodec_encode_video().

cmdutils: refactor -codecs option.

Make it print a list of AVCodecDescriptors.

Add new -decoders and -encoders options that print lists of decoders and
encoders respectively.

avconv: make -shortest a per-output file option.

lavc: add avcodec_descriptor_get_by_name().

lavc: add const to AVCodec* function parameters.

swf(dec): replace CODEC_ID with AV_CODEC_ID

dvenc: don't use deprecated AVCODEC_MAX_AUDIO_FRAME_SIZE

ffmenc: switch to av_assert

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

acelp_filters: switch to avassert

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

rtmpdh: Do not generate the same private key every time when using libnettle

Replace mpz_random by mpz_urandomb with a random state initialization in
order to improve the randomness.

Signed-off-by: Martin Storsjö <martin@martin.st>

libvpxenc: Fix CQ encoding without a specified bitrate

Also print a warning if neither quality nor bitrate is specified
and use the libvpx default bitrate in this case.

The idea of using the default bitrate is from Luca Barbato
Reviewed-by: James Zern <jzern@google.com>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libvpxenc: only force CBR if a bitrate is set

Reviewed-by: James Zern <jzern@google.com>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

rtp: remove ff_rtp_get_rtcp_file_handle().

Signed-off-by: Martin Storsjö <martin@martin.st>

rtsp.c: use ffurl_get_multi_file_handle() instead of ff_rtp_get_rtcp_file_handle()

Signed-off-by: Martin Storsjö <martin@martin.st>

avio: add (ff)url_get_multi_file_handle() for getting more than one fd

Signed-off-by: Martin Storsjö <martin@martin.st>

h264: vdpau: fix crash with unsupported colorspace

The h264_vdpau decoder crashed if output colorspace was not 8-bit 420.
Add a check to error out instead (current hardware does not support
other colorspaces, so successful decoding is not possible).

Signed-off-by: Martin Storsjö <martin@martin.st>

amrwbdec: Decode the fr_quality bit properly

The way this bit is decoded was accidentally flipped in b70feb405,
leading to warnings "Encountered a bad or corrupted frame" for each
decoded frame.

Signed-off-by: Martin Storsjö <martin@martin.st>

mips: change list of files with MIPS copyright notice in mips.txt

Add files created for MP3 optimization that have MIPS copyright
 notice in them to list of files in mips.txt.

Signed-off-by: Nedeljko Babic <nbabic@mips.com>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mips: add assembler flags for mips32r2 ISA and mhard-float

For some compilers ISA older than mips32r2 is set as default.
 Because of them assembler flag "-mips32r2" needs to be added
 for CPUs that support mips32r2 ISA in part of configure script
 where ISA capabilities are checked.
"-mhard-float" assembler flag is also added for CPUs that have FPU.

Signed-off-by: Nedeljko Babic <nbabic@mips.com>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

vf_yadif: fix permissions.

Require AV_PERM_PRESERVE and leave harmless permissions
alone for the next filter.

vf_tinterlace: leave harmless permissions alone.

vf_thumbnail: fix permissions.

vf_select: require AV_PERM_PRESERVE.

This is only necessary because of the poll_frame implementation.
Removing it altogether would be another solution.

vf_removelogo: fix permissions.

The branch with the test was already impossible.

vf_overlay: fix permissions.

vf_idet: fix permissions.

Only write needs to be removed, other can be left.

vf_fps: fix permissions.

vf_fieldorder: fix permissions.

vf_fade: fix permissions.

vf_drawtext: fix permissions.

vf_drawtext: fix permissions.

vf_deshake: fix permissions.

vf_delogo: fix permissions.

vf_colormatrix: fix permissions.

vf_ass: fix permissions.

vf_alphamerge: fix permissions.

avf_concat: fix permissions.

af_channelmap: fix permissions.

af_channelmap: require AV_PERM_PRESERVE.

fifo: fix permissions.

split: set rej_perms = AV_PERM_WRITE on outputs.

sink_buffer: require AV_PERM_PRESERVE.

lavfi: grant all permissions on mallocated audio buffers.

The permissions not requested by the filter that created
the buffer may be useful for a later filter and avoid a copy.

lavfi: fix erroneous use of AV_PERM_PRESERVE in ff_inplace_start_frame.

ff_inplace_start_frame looks useless anyway.

lavfi: grant all permissions on mallocated video buffers.

The permissions not requested by the filter that created
the buffer may be useful for a later filter and avoid a copy.

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  libvpxenc: use the default bitrate if not set
  utvideo: Rename utvideo.c to utvideodec.c
  doc: Fix syntax errors in sample Emacs config
  mjpegdec: more meaningful return values
  configure: clean up Altivec detection
  getopt: Remove an unnecessary define
  rtmp: Use int instead of ssize_t
  getopt: Add missing includes
  rtmp: Add support for receiving incoming streams
  Add missing includes for code relying on external libraries

Conflicts:
libavcodec/libopenjpegenc.c
libavcodec/libvpxenc.c
libavcodec/mjpegdec.c
libavformat/version.h

Merged-by: Michael Niedermayer <michaelni@gmx.at>

libvpxenc: use the default bitrate if not set

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

utvideo: Rename utvideo.c to utvideodec.c

Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

doc: Fix syntax errors in sample Emacs config

Signed-off-by: Diego Biurrun <diego@biurrun.de>

lavfi/edgedetect: add rounding for high/low threshold.

This should fix the 32-bit FATE instances where low_u8=19 and high_u8=49.

escape124: Fix long == 64 assumtation.

Found-by: Nicolas
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ccitt fax: fix some group3 1d files without EOL

Fixes Ticket832

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mjpegdec: more meaningful return values

configure: clean up Altivec detection

There used to be one test for Altivec intrinsics support and a
separate test to determine which of two possible syntaxes to use
for vector literals.  Since 2008, we only support the more common
of these so the split test no longer makes sense.

This combines the tests into one and also changes the hard error on
failure to a warning.  The test can reasonably fail if no --cpu flag
is provided (or is provided with an unknown CPU) and the compiler
default target does not support Altivec.  Aborting in this case is
probably over-reacting.

Signed-off-by: Mans Rullgard <mans@mansr.com>

escape124: fix integer overflow leading to excessive memory allocation

Fixes Ticket1629

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

getopt: Remove an unnecessary define

Signed-off-by: Martin Storsjö <martin@martin.st>

deprecate av_parse_cpu_flags

This function is problematic in several ways, its also quite
unpredictable which flags it ends up turning on

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

av_parse_cpu_caps: add "mmxext" as alias for mmx2

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

fft-test: switch to new cpu flags API

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

lavfi: add edgedetect filter.

rtmp: Use int instead of ssize_t

Not all compilers support ssize_t (MSVC doesn't), and none of these
variables need to be larger than 32 bit.

Signed-off-by: Martin Storsjö <martin@martin.st>

getopt: Add missing includes

Signed-off-by: Martin Storsjö <martin@martin.st>

lavfi/movie: extend a doxygen comment.

libswscale: fix #endif comments in rgb2rgb_template.c

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

lavfi/movie: set pkt->stream_index for flushing.

Otherwise, the value of stream_index is kept from the last packet
read, which is not necessarily the stream that needs flushing.

vc1dsp_mmx: remove libavutil/internal.h include

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

simple_idct_mmx: remove libavutil/internal.h include

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

x86/motion_est_mmx: remove libavutil/internal.h include

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

x86/mlpdsp: remove libavutil/internal.h include

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

yadif: remove libavutil/internal.h include

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

lpc_mmx: remove libavutil/internal.h include

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

idct_sse2_xvid: remove libavutil/internal.h include

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

rtmp: Add support for receiving incoming streams

Signed-off-by: Martin Storsjö <martin@martin.st>

libvpxenc: check for odd RC parameter combinations that could crash

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libvpxenc: fix division by zero

Reported-by: thresh
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  Fix even more missing includes after the common.h removal
  build: Factor out rangecoder dependencies to CONFIG_RANGECODER
  build: Factor out error resilience dependencies to CONFIG_ERROR_RESILIENCE
  x86: avcodec: Consistently name all init files
  Add more missing includes after removing the implicit common.h
  Add some more missing includes after removing the implicit common.h
  Don't include common.h from avutil.h
  rtmp: Automatically compute the hash for SWFVerification

Conflicts:
configure
doc/APIchanges
doc/examples/decoding_encoding.c
libavcodec/Makefile
libavcodec/assdec.c
libavcodec/audio_frame_queue.c
libavcodec/avpacket.c
libavcodec/dv_profile.c
libavcodec/dwt.c
libavcodec/libtheoraenc.c
libavcodec/rawdec.c
libavcodec/rv40dsp.c
libavcodec/tiff.c
libavcodec/tiffenc.c
libavcodec/v210dec.h
libavcodec/vc1dsp.c
libavcodec/x86/Makefile
libavfilter/asrc_anullsrc.c
libavfilter/avfilter.c
libavfilter/buffer.c
libavfilter/formats.c
libavfilter/vf_ass.c
libavfilter/vf_drawtext.c
libavfilter/vf_fade.c
libavfilter/vf_select.c
libavfilter/video.c
libavfilter/vsrc_testsrc.c
libavformat/version.h
libavutil/audioconvert.c
libavutil/error.h
libavutil/version.h

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Add missing includes for code relying on external libraries

Signed-off-by: Martin Storsjö <martin@martin.st>

lavfi/hue: add verbose debug message showing initial parameters

lavfi/hue: reindent after previous commits