lavc: mark the old audio/video encoding API as deprecated

x86inc: Enable AVX emulation in additional cases

Allows emulation to work when dst is equal to src2 as long as the
instruction is commutative, e.g. `addps m0, m1, m0`.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

x86inc: Improve handling of %ifid with multi-token parameters

The yasm/nasm preprocessor only checks the first token, which means that
parameters such as `dword [rax]` are treated as identifiers, which is
generally not what we want.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

x86inc: Fix AVX emulation of some instructions

Signed-off-by: Anton Khirnov <anton@khirnov.net>

x86inc: Fix AVX emulation of scalar float instructions

Those instructions are not commutative since they only change the first
element in the vector and leave the rest unmodified.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

avpacket: fix setting AVPacket.data in av_packet_ref()

The data field does not necessarily point to the beginning of the
underlying AVBuffer.

CC: libav-stable@libav.org

lavc: make avcodec_open2() fail when the timebase is not set for encoding

Many encoders use it. There is also a divide by the timebase lower in
this function, which would crash when it is not set.

Combine deprecation guards where appropriate

Some code blocks use multiple bits of deprecated API.

tests: Move all test programs to a subdirectory

Split global .gitignore file into per-directory files

Add some more deprecation guards

Avoids unused function/label/variable warnings after the next version bump.

Reduce the scope of some variables

This avoids unused variable warnings after the next version bump.
Also drop a trace level av_log() call that is in the way.

rtsp: Parse SSRC attributes in the SDP

When feeding input RTP packets to the depacketizer via custom IO,
it needs to pick the right stream using the payload type for
RTP packets, and using the SSRC for RTCP packets. If the first
packet is an RTCP packet, we don't (currently) know the SSRC
yet and thus can't pick the right RTP depacketizer to handle it.

By parsing the SSRC attribute in the SDP, we can map initial
RTCP packets to the right stream.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtpdec: Always check if we have the next packet queued

It doesn't matter what the actual reason for not returning
an AVPacket was - if we didn't return any packet and we have
the next one queued, parse it immediately. (rtp_parse_queued_packet
always consumes a queued packet if one exists, so there's no risk
for infinite loops.)

Signed-off-by: Martin Storsjö <martin@martin.st>

avconv_vaapi: fix double-free with some unsupported streams

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

pgssub: Fix subpicture colorspace and range

Widen the values from limited to full range and use BT.709 where it
should be used according to the video resolution:

SD is BT.601, HD is BT.709

Default to BT.709 due to most observed HDMV content being HD.

colorspace: Add support for BT709

BT.709 coefficients were gathered from the first two parts of BT.709
to BT.2020 conversion guide in ARIB STD-B62 (Pt. 1, Chapter 6.2.2).
They were additionally confirmed by manually calculating values.

simple_idct_template: Fix strict aliasing violation

This fixes fate-wmv8-intrax8 in certain configurations, e.g.
gcc 4.4.

Signed-off-by: Martin Storsjö <martin@martin.st>

avio: Remove a leftover comment

The declarations that this comment referred to were removed
in 2439f2ca8 - there is no unbuffered IO in this header now.

Signed-off-by: Martin Storsjö <martin@martin.st>

Mark read-only tables as static

configure: Document --enable-libfontconfig

vf_frei0r: Drop overly verbose and broken debug output

cosmetics: Fix spelling mistakes

Signed-off-by: Diego Biurrun <diego@biurrun.de>

Remove unnecessary get_bits.h #includes and add missing headers where needed.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

h264: Drop broken trace debug output

vaapi: Drop pointless debug output

libopencore-amr: Fix ff_dlog()/av_log() invocations

Drop pointless assert.h #includes

mpegts: Validate the SL Packet Header Configuration

timeStampLength, OCRLength and AU_Length have well specified upper
boundaries.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

fate: Add test for MTS2/MSS4

rtpdec_vp9: Support parsing the scalability structure

We still only support one single layer though, but this allows
receiving streams that have this structure present even for
single layer streams.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtpdec_h264: Use avpriv_report_missing_feature instead of a manual av_log

Signed-off-by: Martin Storsjö <martin@martin.st>

rtpdec: Use AVERROR_PATCHWELCOME instead of AVERROR(ENOSYS) for unimplemented features

Signed-off-by: Martin Storsjö <martin@martin.st>

rtpdec_vp9: Update header parsing to spec draft 02

Signed-off-by: Martin Storsjö <martin@martin.st>

rtpdec_vp9: Make sure to free the temp buffer on close

Signed-off-by: Martin Storsjö <martin@martin.st>

Revert "mmaldec: autodetect by default" since it breaks linking on systems without mmal libraries

This reverts commit 33ac77e850efdfd0e8835950c3d947baffd4df45.

mmaldec: autodetect by default

It qualifies as a system library.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

mmaldec: limit internal buffering

This uses a new MMAL feature, which limits the number of extra frames
that can be buffered within the decoder. VIDEO_MAX_NUM_CALLBACKS can
be defined as positive or negative number. Positive numbers are
absolute, and can lead to deadlocks if the user underestimates the
number of required buffers. Negative numbers specify the number of extra
buffers, e.g. -1 means no extra buffer, (-1-N) means N extra buffers.

Set a gratuitous default of -11 (N=10). This is much lower than the
firmware default, which appears to be 96.

This is backwards compatible, but needs a symbol only present in newer
firmware headers. (It's an enum item, so it requires a check in
configure.)

Signed-off-by: Anton Khirnov <anton@khirnov.net>

mmaldec: print the MMAL format FourCC automatically

Slight simplification. The result is the same. Also, change the
wording of the message as requested in patch review.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

configure: fix mmal build dependencies

The mmal decoders do not depend on the software decoders.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

mmaldec: send only a single EOS packet on flushing

Fixes apparent mmal_port_disable() freezes in ffmmal_stop_decoder() when
calling ffmmal_decode() with flush semantics a large number of times in
a row.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

mmaldec: correct package buffering accounting

The assert in ffmmal_stop_decoder() could trigger sometimes. The
packets_buffered counter was indeed not correctly maintained, and
packets were not subtracted from it if they were still in the waiting
queue.

For some reason, this happened especially with VC-1.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

mmaldec: add vc1 decoding support

Signed-off-by: Anton Khirnov <anton@khirnov.net>

mmaldec: Add mpeg2 decoding support

Register mmaldec as mpeg2 decoder. Supporting mpeg2 in mmaldec is just a
matter of setting the correct MMAL_ENCODING on the input port. To ease the
addition of further supported mmal codecs a macro is introduced to generate
the decoder and decoder class structs.

Signed-off-by: Julian Scheel <julian@jusst.de>
Signed-off-by: wm4 <nfxjfg@googlemail.com>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

mmaldec: Fix avpriv_atomic_get usage

There is no avpriv_atomic_get, instead avpriv_atomic_int_get is to be used for
integers. This fixes building mmaldec.

Signed-off-by: Julian Scheel <julian@jusst.de>
Reviewed-by: wm4 <nfxjfg@googlemail.com>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

mmaldec: Use av_assert0() instead of assert()

Signed-off-by: Anton Khirnov <anton@khirnov.net>

testprogs: Mark some tables as static const

fate: Add test for MSS1

dds: Add support for monochrome images

dds: Drop gray-alpha swapping

The original sample was generated with invalid software.

dxva2_h264: Unbreak compilation after 3176217c6

Signed-off-by: Martin Storsjö <martin@martin.st>

ape: Unbreak adaptcoeffs computation

And simplify and explain the expression.

Fault introduced in f3fdef108eb06b1e71b29152bf6822519e787efe

h264: eliminate max_contexts

It is always equal to nb_slice_ctx.

h264: allocate some tables per slice contexts, not threads

This is more correct and avoids wasting space when frame threading is
used.

h264: remove an artificial restriction on the number of slice threads

This limit is now unnecessary, we can easily support an arbitrary number
of threads.

h264: remove pointless setting of some variables in loop_filter

Those should already be set to the correct values.

h264: remove a pointless comment

h264: make slice threading work with deblocking_filter=1

In such a case, decode the MBs in parallel without the loop filter, then
execute the filter serially.

The ref2frm array was previously moved to H264SliceContext. That was
incorrect, since it applies to all the slices and should properly be in
H264Context (it did not actually break decoding, since this distinction
only becomes relevant with slice threading and deblocking_filter=1,
which was not implemented before this commit). The ref2frm array is thus
moved back to H264Context.

h264: remove H264Context.pict_type

It is not used for anything internally, just exported in the output
frames. So remove the indirection and set it directly in frame_start().

h264: drop a pointless indirection

h264: remove unused H264SliceContext.rbsp_buffer

h264: merge ff_h264_free_context() into h264_decode_end()

It is no longer called from outside the h264 decoder.

h264: eliminate low_delay

It is always unconditionally initialized in decode_postinit() and then
immediately used in one place further below. All the other places where
it is accessed are just useless fluff.

h264: remove a stale comment

This comment used to apply to code that was removed.

h264_refs: remove an unused parameter from ff_h264_fill_mbaff_ref_list()

h264_refs: make the H264Context const where possible

h264_refs: reorder functions to avoid forward declarations

h264: eliminate copy_fields

It is very fragile against fields being moved and hides what is actually
being copied. Copy all the fields explicitly instead.

h264_parser: remove the remaining dependencies on the h264 decoder

h264: decouple extradata parsing from the decoder

This will allow decoupling the parser from the decoder.

h264: decouple h264_sei from the h264 decoder

Make the SEI parsing independent of the H264Context, to allow
decoupling the parser from the decoder.

h264: factor out calculating the POC count into a separate file

This will allow decoupling the parser from the decoder.

h264_parser: move the H264DSPContext to the parser context

h264: decouple h264_ps from the h264 decoder

Make the SPS/PPS parsing independent of the H264Context, to allow
decoupling the parser from the decoder. The change is modelled after the
one done earlier for HEVC.

Move the dequant buffers to the PPS to avoid complex checks whether they
changed and an expensive copy for frame threads.

h264_parser: eliminate H264SliceContext usage

It is no longer needed for anything.

h264_parse: make sure the ref count is zeroed on all failure paths

h264: factor out parsing the reference count into a separate file

This will allow decoupling the parser from the decoder.

h264: stop testing whether the reference count changes in ff_set_ref_count()

It is no longer necessary after 741b494fa8cd28a7d096349bac183893c236e3f9

h264: move reading direct_spatial_mv_pred out of ff_set_ref_count()

It has nothing to do with the reference count and so does not belong in
this function.

h264_parser: switch to h2645_parse for NAL unescaping

Remove now unused ff_h264_decode_nal().

h264_mp4toannexb_bsf: do not fail on annex B extradata

Just pass through the bitstream as is. This is the same as what is done
for HEVC already.

libx264: Forbid inverted Stereo3D mode

libx264: Allow Stereo3D monoscopic value

build: Silence the lcov-reset target

libavformat: Update the comment about AVOutputFormat flags

Add a flag which applies here, which had been missed.

Signed-off-by: Martin Storsjö <martin@martin.st>

movenc: Handle pts == NOPTS when autoflushing

This muxer generally handles pts == NOPTS by using dts instead;
do this for consistency here as well.

Signed-off-by: Martin Storsjö <martin@martin.st>

movenc: Update a comment to reflect how the code actually behaves

This codepath isn't quite as bad as it used to sound, if fragments
are cut automatically at video packets.

Signed-off-by: Martin Storsjö <martin@martin.st>

img2enc: Refactor the atomic renaming code

And use it for the separate-plane side-feature as well.

Bug-Id: 935

ape: Avoid undefined behaviour

Avoid the clang warning

"warning: shifting a negative signed value is undefined"

indeo3: Avoid undefined behaviour

Avoid the clang warning

"warning: shifting a negative signed value is undefined"

libxvid: Create extradata in init using a dummy frame

Modifying global header extradata in encode_frame is an API violation
and only happens to work currently because mov writes its header
at the end of the file.

Heavily based off of a patch from 2012 by Nicolas George.

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

pixfmt: fix wrong comment

The h264/hevc Annex E colour primaries table says that AVCOL_SPC_SMPTE170M is
similar than AVCOL_SPC_SMPTE240M. These two values are not similar than
AVCOL_SPC_BT470BG.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

Generate the lists of enabled protocols/bsfs from configure.

hwcontext: initialize sw_format in av_hwframe_ctx_alloc()

lavc: move the vaapi encoders further down in the list of codecs

Right now they are the first encoders for those codecs in the list, so
they are selected when the caller requests a codec by id.
Since they require special treatment, they should not be selected by
default if there are other encoders (e.g. libx264/5) available.

vaapi_h265: Add -qp option, use it to replace use of -global_quality

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vaapi_h265: Add constant-bitrate encode support

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vaapi_h264: Add encode quality option (for quality-speed tradeoff)

Only supported on VAAPI 0.36 and higher.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vaapi_h264: Add -qp option, use it to replace use of -global_quality

Signed-off-by: Anton Khirnov <anton@khirnov.net>

vaapi_encode: Add support for codec-local options

Signed-off-by: Anton Khirnov <anton@khirnov.net>