lavc: introduce a new decoding/encoding API with decoupled input/output

Until now, the decoding API was restricted to outputting 0 or 1 frames
per input packet. It also enforces a somewhat rigid dataflow in general.

This new API seeks to relax these restrictions by decoupling input and
output. Instead of doing a single call on each decode step, which may
consume the packet and may produce output, the new API requires the user
to send input first, and then ask for output.

For now, there are no codecs supporting this API. The API can work with
codecs using the old API, and most code added here is to make them
interoperate. The reverse is not possible, although for audio it might.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

opt-test: Merge struct declaration and initialization

opt-test: Move some variable declarations to avoid block braces

parseutils-test: Move some variable declarations to avoid block braces

des-test: Move a variable declaration to avoid an ifdef

build: Add component for the SRTP common code

This allows expressing the SRTP test code dependencies more clearly.

timefilter-test: Only compile timefilter-test if JACK is enabled

doc: Update paths to match new examples location

Move const qualifier before type name

vc1dec: wmv2dec: Validate ff_intrax8_common_init return value

intrax8: Check and propagate errors from ff_intrax8_common_init

This allows dropping an afterwards redundant assert.

intrax8: Move documentation from implementation to header file

intrax8: K&R formatting cosmetics

intrax8: Adjust printf conversion specifier for sizeof expression

intrax8: Move a comment to the place it corresponds

intrax8: Wrap multiline macros in do{}while(0) clauses

These macros are treated like functions, the wrapping simplifies error
checking and avoids deeply nested ifs in the following commit.

intrax8: Move error resilience out of intrax8

The intrax8 decoding process does not imply any kind of error
resilience, and the only call present is more related to how mpegvideo
works rather than anything else.

Therefore have the parent decoders carry out er when actually needed.

nuv: Use the correct context for av_image_check_size

indeo4: Consistently initialize variables

Avoid using multiple variables for the same purpose.

indeo4: Rework stream analysis report

* Change log level from error to debug
* Print report after the first decoded frame, not at the end of decoding
* Drop macro guard and use a context variable instead

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

avconv: switch to the new BSF API

lavc: add a new bitstream filtering API

Deprecate the current bitstream filtering API.

takdec: ensure chan2 is a valid channel index

If chan2 is not smaller than the number of channels, it can cause
segmentation faults due to dereferencing a NULL pointer.

Signed-off-by: Andreas Cadhalpun <Andreas.Cadhalpun@googlemail.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

mpegts: Forward the errors on mpeg4 objects parsing

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

lavfi: generic hardware surface upload and download filters

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavu: VAAPI hwcontext implementation

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavu: deprecate AV_PIX_FMT_VAAPI_*, replace with AV_PIX_FMT_VAAPI

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavu: add a way to query hwcontext frame constraints

Signed-off-by: Anton Khirnov <anton@khirnov.net>

svq3: Use a separate buffer for decoding the slices

The AVPacket.data should be considered read-only.

cmdutils: update copyright year to 2016

CC: libav-stable@libav.org
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

matroska: Support V_QUICKTIME as written in the specification

Check if the size is written the first 4 bytes and read the next 4
as fourcc candidate, fallback checking the initial for 4 bytes.

"The CodecPrivate contains all additional data that is stored in the
'stsd' (sample description) atom in the QuickTime file after the
mandatory video descriptor structure (starting with the size and FourCC
fields)"

CC: libav-stable@libav.org

qsv: Fix loading multiple plugins

av_get_token does not strip the trailing separator.

mov: Check the entries value when parsing dref boxes

And properly reset the entries count when resetting the entries.

CC: libav-stable@libav.org
Bug-Id: 929
Bug-Id: CVE-2016-3062

configure: Add support for clang llvm-cov

configure: Support msan as toolchain

buffer: drop a reference to a non-existing function from the docs

This function only ever existed in the draft versions of the API.

pixfmt: fix the AV_PIX_FMT_VAAPI_VLD doxy

mpegvideo: Refactor emulated_edge_mc calls

mpegvideo: Fix undefined negative shifts in mpeg_motion_internal

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

mpegvideo: Fix undefined negative shifts in ff_init_block_index

Found-by: gcc5-ubsan.
Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

idct8x8: Fix undefined negative shifts

The original code left-shifts negative values, which is undefined
in the C99 specification (the one used during normal Libav compilation).
This change multiplies by (1 << shift), which is functionally equivalent,
but has defined behavior.

With this change, fate-idct8x8 compiled with --fsanitize=undefined works.

Bug-Id: 686

vdpau: Add missing deprecation guards

mov: Trim dref absolute path

Samples produced by Omneon (Harmonic) store external references with
paths ending with 0s. Such movs cannot be loaded properly since every
0 is converted to '/', to keep the same parsing code for dref type 2
and type 18: this makes the external reference point to a non-existing
direactory, rather than to the actual referenced file.

Add a brief trimming loop that drops all ending 0s before trying to
parse the external reference path.

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

avconv: remove sub-frame warning

It's not practical to keep this with the new decode API.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavc: factor apply_param_change() AV_EF_EXPLODE handling

Remove the duplicated code for handling failure of apply_param_change().

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavu: improve documentation of some AVFrame functions

Signed-off-by: Anton Khirnov <anton@khirnov.net>

asfenc: remove an unused variable

asfenc: fix some possible integer overflows

Store the file duration in the same timebase it arrives (i.e.
milliseconds) and only convert it to the file duration units (100ns)
when it's actually written, thus simplifying some calculations. Also,
store the duration as unsigned, since it cannot be negative.

CC: libav-stable@libav.org
Bug-ID: CVE-2016-2326

avformat_find_stream_info: move duration guessing after updating codec parameters

This bitrate might not be known otherwise.

Bug-Id: 926

fate: Add separate target for all indeo3 tests

fate: Add test for indeo2 with delta frames

Signed-off-by: Diego Biurrun <diego@biurrun.de>

indeo2: Fix banding artefacts

Rename luma table to delta table and change how it is used.

CC: libav-stable@libav.org
Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>
Signed-off-by: Diego Biurrun <diego@biurrun.de>

indeo2data: K&R formatting cosmetics

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>
Signed-off-by: Diego Biurrun <diego@biurrun.de>

fft: Split MDCT bits off from FFT

sdp: fix opus sprop-stereo fmtp syntax

Signed-off-by: Martin Storsjö <martin@martin.st>

fate: fft: Split DCT/FFT/MDCT/RDFT tests into separate targets

rdft: arm: Split RDFT initialization into a separate file

fft: arm: Drop unnecessary #include, add missing ones

fft: x86: cosmetics: Drop silly comments, add comment, whitespace

qsv: Move down the implementation query

The plugin loaded may not match the general implementation capability
wise.

avpacket: properly reset data/size in av_packet_move_ref()

It currently just calls av_init_packet(), which does not touch those
fields.

avprobe: switch to codecpar

avprobe: add local per-stream state

This will be useful in the following commits.

avprobe: add local per-file state

Do not pass just a bare AVFormatContext pointer around, wrap it in
struct. This will be useful in the following commits.

mpegvideo_enc: use avcodec_free_context() instead of av_free()

avprobe: print information from the codec descriptor

avprobe is not doing any decoding, so this is more correct than printing
information from a random codec implementation.

avprobe: remove a pointless condition and a dead branch

AVStream.codec is always non-NULL

APIchanges: add missing hashes and dates

Also, remove a stray line (apparently fallout from conflict resolution).

lavf: add a missing bump and APIchanges for the codecpar switch

vc1dec: Check group allocations separatedly

This avoids accessing NULL pointers in case of error.

vc1dec: Fix leak on error for array allocations

The deinit function in the 'error' section will correctly free
everything.

vc1dec: Properly call deinit function on error

vc1dec: Drop commented out cruft

img2: Drop av_ prefix for a static function

This prefix is reserved for public functions only.

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

idct: Only build prores IDCT if ProRes decoder is enabled

qsvdec: store the sync point in heap memory

The reasoning is the same as for the corresponding qsvenc patch.

qsvenc: store the sync point in heap memory

The QSV runtime expects the sync point address passed to
MFXVideoENCODE_EncodeFrameAsync() to be valid until
MFXVideoCORE_SyncOperation().

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vsrc_movie: convert to codecpar

examples/transcode_aac: convert to codecpar

examples/qsvdec: convert to codecpar

examples/output: convert to codecpar

avplay: convert do codecpar

avplay: do not use AVStream.codec for decoding

AVStream.codec is now deprecated. Allocate a separate codec context
instead.

avconv: convert to codecpar

The switch is not yet complete because the parsers and the bistream
filters do not have a new AVCodecParam-based API yet.

avconv: switch opening decoders and encoders

Open decoders first, next encoders. This makes sure that that
subtitle_header is always set properly, without relying on
avformat_find_stream_info() setting it.

lavf: replace AVStream.codec with AVStream.codecpar

Currently, AVStream contains an embedded AVCodecContext instance, which
is used by demuxers to export stream parameters to the caller and by
muxers to receive stream parameters from the caller. It is also used
internally as the codec context that is passed to parsers.

In addition, it is also widely used by the callers as the decoding (when
demuxer) or encoding (when muxing) context, though this has been
officially discouraged since Libav 11.

There are multiple important problems with this approach:
    - the fields in AVCodecContext are in general one of
        * stream parameters
        * codec options
        * codec state
      However, it's not clear which ones are which. It is consequently
      unclear which fields are a demuxer allowed to set or a muxer allowed to
      read. This leads to erratic behaviour depending on whether decoding or
      encoding is being performed or not (and whether it uses the AVStream
      embedded codec context).
    - various synchronization issues arising from the fact that the same
      context is used by several different APIs (muxers/demuxers,
      parsers, bitstream filters and encoders/decoders) simultaneously, with
      there being no clear rules for who can modify what and the different
      processes being typically delayed with respect to each other.
    - avformat_find_stream_info() making it necessary to support opening
      and closing a single codec context multiple times, thus
      complicating the semantics of freeing various allocated objects in the
      codec context.

Those problems are resolved by replacing the AVStream embedded codec
context with a newly added AVCodecParameters instance, which stores only
the stream parameters exported by the demuxers or read by the muxers.

lavc: add a variant of av_get_audio_frame_duration working with AVCodecParameters

lavc: add codec parameters API

This API is intended to allow passing around codec parameters without
using full AVCodecContext (which also contains codec options and
encoder/decoder state).

x86: hevc: Fix linking with both yasm and optimizations disabled

Some optimized functions reference optimized symbols, so the functions
must be explicitly disabled when those symbols are unavailable.

fate: Ignore errors from concatenating report files

Some files may be missing for valid reasons, e.g. on compile failure.

fate: Be silent when fetching Git updates

mpeg12enc: always write closed gops for intra only outputs

Reviewed-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Marton Balint <cus@passwd.hu>

h264: Add an AVClass pointer to H264Context

Sample-Id: asan_heap-uaf_3660f67_757_cov_1257014655_Hi422FR1_SONY_A.jsv
Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

libx264: Fix noise_reduction option assignment

First check the context, then check internal option. Drop the ! typo.
Introduced in 60f0fde3092d18d4d36555962c192af8691a099c.

lavf: add a protocol whitelist/blacklist for file opened internally

Should make the default behaviour safer for careless callers that open
random untrusted files.

Bug-Id: CVE-2016-1897
Bug-Id: CVE-2016-1898

urlprotocol: receive a list of protocols from the caller

This way, the decisions about which protocols are available for use in
any given situations can be delegated to the caller.

aviobuf: add a private data struct for avio_open()ed contexts

It will be useful in the following commits.

protocols: make the list of protocols static

Disallow other code to touch it directly, now it's only accessible
through a blacklisting/whitelisting function.

lavf: move urlcontext_child_class_next() to protocols.c

It needs to access the list of protocols directly, so it more properly
belongs there.

lavf: move avio_enum_protocols() to protocols.c

It's a more appropriate place for it.