Replace all instances of avcodec_alloc_frame() with av_frame_alloc().

lavc: update coded_frame doxy.

It is not used during decoding anymore.

lavc: deprecate CODEC_CAP_NEG_LINESIZES

It was never used in any codec since it was added 3 years ago.

lavc: VP9 decoder

Originally written by Ronald S. Bultje <rsbultje@gmail.com> and
Clément Bœsch <u@pkh.me>

Further contributions by:
Anton Khirnov <anton@khirnov.net>
Diego Biurrun <diego@biurrun.de>
Luca Barbato <lu_zero@gentoo.org>
Martin Storsjö <martin@martin.st>

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavc: Edge emulation with dst/src linesize

Allow supporting files for which the image stride is smaller than
the maximum block size + number of subpel mc taps, e.g. a 64x64 VP9
file or a 16x16 VP8 file with -fflags +emu_edge.

dv: Split DV data table declarations into their own header

This is necessary to avoid target config settings bleeding into the host
compilation process with hardcoded tables and the DV VLC tables no longer
present as static tables in a header file.

build: Allow specifying extra object files when linking HOSTPROGS

h264: free the tables and uninitialize the context on flush

Prevents referencing empty frames when the first packet after the flush
does not contain a frame.

lavf: improve support for AVC-Intra files.

Generate extradata with SPS/PPS based on container dimensions.

Authors of this commit are: Reimar and Thomas Mundt

Signed-off-by: Anton Khirnov <anton@khirnov.net>

mxfdec: update current edit unit when seeking in mxf files without index tables

Fixes audio packet pts values in some files generated by AVID TRMG 3.01.

Signed-off-by: Marton Balint <cus@passwd.hu>
Reviewed-by: Tomas Härdin <tomas.hardin@codemill.se>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

mpeg12dec: Remove outdated UV swapping code for VCR2

twinvq: consume block_align+1 packets as full ones

They can be produced by VQF.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

twinvq: support multiple frames per packet

Signed-off-by: Diego Biurrun <diego@biurrun.de>

metasound: add missing modes

Signed-off-by: Diego Biurrun <diego@biurrun.de>

mpeg12dec: Remove unused swap_uv member from Mpeg1Context

Move av_fast_{m,re}alloc from lavc to lavu.

lavc: deprecate FF_MAX_B_FRAMES

We should not arbitrarily decide the maximum B-frame number for all
encoders supported by Libav, each encoder should be able to set its own
limits.

lavc: move MB_TYPE_* macros from avcodec.h to mpegvideo.h

They are mpegvideo-specific and not supposed to be used by callers.

lavc: schedule unused FF_QSCALE_TYPE_* for removal on next bump

lavc: make error_rate a private option of mpegvideo encoders

vdpau: add a constructor for AVVDPAUContext.

We will likely want to add new fields to it in the future, so this is
needed to avoid breaking ABI.

vdpau: add a convenience function for getting a decoder profile.

Based on the code by Rémi Denis-Courmont <remi@remlab.net> from VLC.

Deprecate obsolete XvMC hardware decoding support

XvMC has long ago been superseded by newer acceleration APIs, such as
VDPAU, and few downstreams still support it. Furthermore XvMC is not
implemented within the hwaccel framework, but requires its own specific
code in the MPEG-1/2 decoder, which is a maintenance burden.

Remove all Alpha architecture optimizations

Alpha has been end-of-lifed and no more test machines are available.

configure: Check whether MSVC requires using the C89-to-C99 converter

MSVC does support enough of C99 to work without the converter since
the 2013 version. Try to detect which version of the compiler in
the path needs to run the C99 converter or not. When the converter
is omitted, compilation time is reduced quite drastically.

Prior to this, users could still use --cc="c99conv -noconv cl"
when running MSVC 2013 to achieve the same.

This checks the version number instead of doing a normal compile
test, since this check needs to be done earlier in configure, before
the normal compile test helpers are usable.

Signed-off-by: Martin Storsjö <martin@martin.st>

mpegaudioenc: Move some static tables to MpegAudioContext

This reduces global state and the amount of globally visible tables.

mpegaudioenc: Remove broken integer-only quantization code path

hwaccel: Simplify ff_find_hwaccel

It is always called by passing fields from an AVCodecContext.

avienc: drop the vfr flag.

AVI does not really support vfr properly, only by padding with null
packets.

metasound: Fix error message argument

Signed-off-by: Diego Biurrun <diego@biurrun.de>

h263dsp: K&R formatting cosmetics

Also remove array element numbering comments.

dsputil: Split off H.263 bits into their own H263DSPContext

Remove #undefs for formerly forbidden system functions

The macros forbidding the system functions no longer exist, obviating
the need for the #undefs.

avfilter/graphparser: Directly free filter memory if initialization fails

configure: Move -Wno-maybe-uninitialized check into gcc section

As another example of bizarre compiler behavior clang groks the
-Wmaybe-uninitialized option, but not -Wno-maybe-uninitialized
and spews a warning for every file that gets compiled.

avfilter/buffer: Suppress deprecation warning for avfilter_unref_buffer

The function is used in a block of code that is deprecated anyway.

graph2dot: Add missing #include for av_get_channel_layout_string()

graph2dot: Fix use of deprecated API

vdpau: Add missing #includes to fix standalone header compilation

Signed-off-by: Anton Khirnov <anton@khirnov.net>

x86: rv40dsp: Use PAVGB instruction macro where appropriate

omadec: loosen format probing constraints

Imporoves detection of some files in the wild:

- ID3v2 a.k.a. "ea3" header is optional.
- Version and flags in ID3v2 header are unspecified.

Signed-off-by: David Goldwich <david.goldwich@gmail.com>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

omadec: check GEOB sizes against buffer size

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Signed-off-by: David Goldwich <david.goldwich@gmail.com>
CC:libav-stable@libav.org
Signed-off-by: Anton Khirnov <anton@khirnov.net>

omadec: Fix wrong number of array elements

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Signed-off-by: David Goldwich <david.goldwich@gmail.com>
CC:libav-stable@libav.org
Signed-off-by: Anton Khirnov <anton@khirnov.net>

filtfmts-test: Fix use of deprecated API

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

hevc_ps: Use AV_PIX_FMT_YUVJ420P if YUV 4:2:0 8-bit full scale

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

hevc: Use parsed VUI colorimetry in avcodec

Also limit the parsed VUI values to known valid ones.

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

lavc: Add colorimetry values for BT.2020, other non-included ones

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

vf_fieldorder: remove superfluous get_video_buffer

aacdec: Set the profile during decoding

Previously the profile would not be set if the bitstream needs
to be decoded to know the profile.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavc: move AVCodecContext.pkt to AVCodecInternal

It's a private field, not meant to be accessed from outside lavc.

pthread: store thread contexts in AVCodecInternal instead of AVCodecContext

It's a private field, it should not be visible to callers.

Deprecate AVCodecContext.thread_opaque

pthread_slice: rename ThreadContext -> SliceThreadContext

This should prevent confusion with frame threading.

lavc: split slice and frame threading functions into separate files

pthread: drop avcodec_ prefixes from static functions

x86: hpeldsp: Use PAVGB instruction macro where necessary

Signed-off-by: Mikulas Patocka <mikulas@artax.karlin.mff.cuni.cz>
Signed-off-by: Diego Biurrun <diego@biurrun.de>

build: Remove redundant OBJS declaration intended for programs

rtmpproto: Reorder conditions to help dead code elimination

This makes sure that these branches are eliminated properly
with clang with optimizations disabled.

ansi: fix possible use of uninitialized variables

wtv: fix variable sign in format

attributes: disable flatten on llvm/clang

vf_scale: make the dar variable return the DAR.

Before, it just returned width/height. Correct is width/height*sar.

That way it is consistent with DAR as in probe output and setdar.

Signed-off-by: Rudolf Polzer <divverent@xonotic.org>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

vf_aspect: support variables in evaluating the aspect ratios

Example: -vf setsar=sar="sar*9/10"

Signed-off-by: Rudolf Polzer <divverent@xonotic.org>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

os_support: Add #endif comments for better readability

mpeg4video_parser: K&R formatting cosmetics

Signed-off-by: Diego Biurrun <diego@biurrun.de>

Add an HDS live fragmenting muxer

HDS fragments basically are FLV fragments wrapped in an ISO
media mdat atom.

Signed-off-by: Martin Storsjö <martin@martin.st>

mpeg4video: K&R formatting cosmetics

Signed-off-by: Diego Biurrun <diego@biurrun.de>

flashsv: K&R formatting cosmetics

Also improve some log message wording/spelling.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

x86: vp8dsp: Split loopfilter code into a separate file

configure: Properly check for availability of -Wno-foo warning flags

For some weird reason gcc does not check if the -Wno disabling variants
of warning flags match existing warning flags. Instead it swallows them
silently. That is, unless other warning or error messages are generated,
because then - for some even more bizarre reason - a complaint about the
unknown disable warning flag is issued along with the error or warning
message.

Thus to check for the availability of a warning disabling option, one
needs to check for the enabling variant instead and then add the
disabling variant to CFLAGS.

configure: Split test_cflags function off from check_cflags

This is useful to test flags without directly adding them to CFLAGS.

lavf: do not use int to store an int64

flashsv: Check diff_start diff_height values

Fix out of array accesses.

Found-by: ami_stuff
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

flashsv: Refactor a little

rtspenc: Make sure BYE packets are sent before TEARDOWN

Also make sure the BYE packets are sent at all when using
TCP interleaved transport.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtpenc: Add a rtpflag option for sending BYE packets when finishing

Signed-off-by: Martin Storsjö <martin@martin.st>

rtpenc: Remove some superfluous parentheses

Signed-off-by: Martin Storsjö <martin@martin.st>

aviobuf: Handle a NULL buffer in avio_close_dyn_buf

This simplifies proper error handling in rtsp.c/rtspdec.c. When
broadcasting over RTSP in TCP mode, the AVIOContext is closed and
recreated for each sent packet, and if the recreation fails, we might
try to close a NULL buffer when freeing things at the end.

Previously, if recreating the buffer in rtspdec.c failed, this would
crash later due to trying to close a NULL buffer.

Signed-off-by: Martin Storsjö <martin@martin.st>

lavc: move FF_ASPECT_EXTENDED from avcodec.h to h263.h

It's for internal use only.

lavc: deprecate unused FF_BUG_OLD_MSMPEG4

lavc: schedule FF_BUG_AC_VLC for removal on the next major bump.

It has been deprecated/unused for about 10 years.

lavc: deprecate FF_DEBUG_VIS_*

Those flags have no effect since
37045e422903695e610cca6ecb753df643ab9380.

lavc: deprecate AVCodecContext.debug_mv

It has been unused since 37045e422903695e610cca6ecb753df643ab9380.

avplay: drop -vismv option which does not do anything anymore

lavc: deprecate FF_DEBUG_MV and remove all traces of its use

It has not been actually used since
37045e422903695e610cca6ecb753df643ab9380, when the broken vismv code was
removed.

mpegts: Support HEVC demuxing

Signed-off-by: Anton Khirnov <anton@khirnov.net>

matroskadec: Support HEVC demuxing

mov: Support HEVC demuxing

Signed-off-by: Anton Khirnov <anton@khirnov.net>

Add raw HEVC demuxer

Signed-off-by: Anton Khirnov <anton@khirnov.net>

FATE: Add HEVC tests

Signed-off-by: Anton Khirnov <anton@khirnov.net>

Add HEVC decoder

Initially written by Guillaume Martres <smarter@ubuntu.com> as a GSoC
project. Further contributions by the OpenHEVC project and other
developers, namely:

Mickaël Raulet <mraulet@insa-rennes.fr>
Seppo Tomperi <seppo.tomperi@vtt.fi>
Gildas Cocherel <gildas.cocherel@laposte.net>
Khaled Jerbi <khaled_jerbi@yahoo.fr>
Wassim Hamidouche <wassim.hamidouche@insa-rennes.fr>
Vittorio Giovara <vittorio.giovara@gmail.com>
Jan Ekström <jeebjp@gmail.com>
Anton Khirnov <anton@khirnov.net>
Martin Storsjö <martin@martin.st>
Luca Barbato <lu_zero@gentoo.org>
Yusuke Nakamura <muken.the.vfrmaniac@gmail.com>
Reimar Döffinger <Reimar.Doeffinger@gmx.de>
Diego Biurrun <diego@biurrun.de>

Signed-off-by: Anton Khirnov <anton@khirnov.net>

webp: stop using deprecated avcodec_set_dimensions

vp8: stop using deprecated avcodec_set_dimensions

vp56: stop using deprecated avcodec_set_dimensions

vp3: stop using deprecated avcodec_set_dimensions

txd: stop using deprecated avcodec_set_dimensions

truemotion1: stop using deprecated avcodec_set_dimensions

tiff: stop using deprecated avcodec_set_dimensions

targa: stop using deprecated avcodec_set_dimensions

svq1dec: stop using deprecated avcodec_set_dimensions

sunrast: stop using deprecated avcodec_set_dimensions