libavresample: Annotate AARCH64 init function with av_cold

Signed-off-by: Peter Meerwald <pmeerw@pmeerw.net>
Signed-off-by: Martin Storsjö <martin@martin.st>

rtpdec_h264: Move a leftover comment into h264_handle_packet_stap_a

Signed-off-by: Martin Storsjö <martin@martin.st>

rtpdec_h264: Remove an unnecessary check

If src_len is too small for nal_size, we already print a warning
above, and the next step is to check the while loop condition
anyway, so this one serves no purpose.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtpdec_h264: Return immediately on errors in h264_handle_packet_stap_a

Previously, errors were only logged but the code kept on trying,
and never actually returning the error as a return value.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtpdec_h264: Make a parameter pointer const

Signed-off-by: Martin Storsjö <martin@martin.st>

rtpdec_h264: Use av_realloc instead of av_malloc+mempcy

This is similar to what was done for rtpdec_hevc in ced7238cd01.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtpdec_h264: Include the right header for AV_RB16

Including libavcodec/get_bits.h is superfluous for AV_RB16 - nothing
in this file uses any actual bitstream reader.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtpdec_vp8: Set the keyframe flag

This allows the output to be used with stream copy, which discards
packet from the start until the first keyframe.

Signed-off-by: Martin Storsjö <martin@martin.st>

fate: Add tests for DSS

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>
Signed-off-by: Oleksij Rempel <linux@rempel-privat.de>

lavf: Add DSS demuxer

Signed-off-by: Oleksij Rempel <linux@rempel-privat.de>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>
Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

lavc: Add DSS SP decoder

Signed-off-by: Oleksij Rempel <linux@rempel-privat.de>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>
Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

qsv_api: fix building with libmfx disabled

configure: add missing h264_qsv hwaccel deps

lavc: add an Intel libmfx-based H.264 decoder

Based on the code by Luca Barbato <lu_zero@gentoo.org> and Yukinori
Yamazoe <drocon11@gmail.com>.

h264_parser: export video format and dimensions

pixfmt: add a pixel format for QSV hwaccel

rv40: Return more meaningful error codes

Signed-off-by: Diego Biurrun <diego@biurrun.de>

libx265: Add crf private option

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

libx265: Reduce the scope of some variables

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

riff: Support QT RLE Animation in avi ('rle ' FourCC)

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

riff: Support ProRes in avi (APCH fourcc)

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

wmv2: Return meaningful error codes

qdm2: Return meaningful error codes

libxvid: Return meaningful error messages

aac_adtstoasc_bsf: Check extradata memory allocation

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

avpacket: Check buffer reference

CC: libav-stable@libav.org
Bug-Id: CID 1267889

vorbisdec: Check memory allocations

dvdsubdec: Check memory allocations

swscale: Check memory allocations

CC: libav-stable@libav.org
Bug-Id: CID 1267888 / CID 1267890
Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

nutdec: Check memory allocations

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

movenc: Check memory allocations

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

rmdec: Check memory allocations from ff_rm_alloc_rmstream()

Bug-Id: CID 1257835

dct-test: Fix initialization syntax

Related to "warning: suggest braces around initialization of subobject".

lavf: Document the codec context initialization

During remuxing avcodec_copy_context() is discouraged as certain fields
(such as codec_tag) could reflect invalid values between input and
output contextes.

lavc: Document interaction between avcodec_open2() and decoding routines

avplay: Check format allocation inside decode_thread()

CC: libav-stable@libav.org
Bug-Id: CID 1265718

avplay: Check frame allocation inside video_thread()

CC: libav-stable@libav.org
Bug-Id: CID 1267893

avconv: Check rc_override memory allocation

CC: libav-stable@libav.org
Bug-Id: CID 1265719

graphparser: Check av_get_token() memory error

CC: libav-stable@libav.org
Bug-Id: CID 1267891

matroskaenc: Validate chapter start and end times

CC: libav-stable@libav.org
Bug-Id: CID 1265717

dca: Remove separate header for DCA ExSS

There is no point in having a separate header for a single declaration.

bktr: Use av_strerror and propagate error codes

Signed-off-by: Diego Biurrun <diego@biurrun.de>

dca: Move data tables from a header to an object file

This allows sharing them with the DCA XLL extension w/o duplication.

dca: Add array sizes to array declarations

g722: Add ARM NEON implementation for g722_apply_qmf()

Signed-off-by: Peter Meerwald <pmeerw@pmeerw.net>
Signed-off-by: Martin Storsjö <martin@martin.st>

g722: Split out computation of band->s_zero and unroll code

Signed-off-by: Peter Meerwald <pmeerw@pmeerw.net>
Signed-off-by: Martin Storsjö <martin@martin.st>

g722: Unroll g722_apply_qmf()

Signed-off-by: Peter Meerwald <pmeerw@pmeerw.net>
Signed-off-by: Martin Storsjö <martin@martin.st>

g722: Reduce number of pointers passed to g722_apply_qmf() function

Signed-off-by: Peter Meerwald <pmeerw@pmeerw.net>
Signed-off-by: Martin Storsjö <martin@martin.st>

g722: Split out g722_qmf_apply() function into g722dsp.c

Signed-off-by: Peter Meerwald <pmeerw@pmeerw.net>
Signed-off-by: Martin Storsjö <martin@martin.st>

mov: Change DTS-based seek into CTS-based seek.

CTS-based seek is reasonable since player requests frames in output order
not coded order.

This change fixes seek to a keyframe within consecutive keyframes.
Let's say P[0|-1] and P[1|0], here x and y inside [x|y] are PTS and DTS
respectively, and both two frames are a keyframe. If you try to seek on
PTS=0, i.e. P[0|-1], you'll get P[1|0] if the demuxer is DTS based. This
is obviously undesirable.

Signed-off-by: Martin Storsjö <martin@martin.st>

xcbgrab: Use the correct geometry for the region highlight

The feature is implemented using a transparent window and drawing
inside it a rectangle filling the whole window to highlight it.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

ape: Use the proper variable type

Avoid an unsigned underflow.

Bug-Id: 1041122
CC: libav-stable@libav.org

ogg: check memory allocations

Bug-Id: CID 1257795
CC: libav-stable@libav.org
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

rtp: h264: Drop the asserts

rtp: h264: Move FU-A NAL parsing to a function

rtp: h264: Move STAP-A NAL parsing to a function

rtp: h264: Move parse_sprop_parameter_sets parsing to a function

rtp: h264: Move profile_level_id parsing to a function

xcbgrab: Correctly make shm optional

The segment field in the struct has to be conditionally build
as well.

xcbgrab: Check for xcb-shape

It is required.

FATE: add a test for the SVQ1 header byte swapping

changelog: mention DXVA/HEVC and AAC ELD480

vdpau: Adjust necessary #includes for vdpau_internal.h

mov: Fix compilation with DEBUG enabled

dca: Move all tables into dcadata.h

dca: Remove trace debugging code

dca: Return more informative error codes

dca: Split code for handling the EXSS extension off into a separate file

Don't anonymously typedef structs

avcodec: Don't anonymously typedef structs

avformat: Don't anonymously typedef structs

vp56: Return meaningful error codes

Signed-off-by: Diego Biurrun <diego@biurrun.de>

hevc: Use generic av_clip function, not C implementation

hevc seems to be the only place where the C implementation
of the av_clip function is explicitly selected, precluding
platform-specific optimizations

Signed-off-by: Peter Meerwald <pmeerw@pmeerw.net>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

doc/APIchanges: fill in missing dates and hashes

Also, move a misplaced block to the right position.

lavf: move internal fields from public to internal context

This is not an API change; the fields were explicitly declared private
before.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

mpegts: relax restrictions on matching the packet start in read_header

analyze() is currently called both when probing and from read_header().
It determines the packet start by looking for the sync byte, followed by
unset Transport Error Indicator and valid adaptation_field_control.

This makes sense to do when probing, but once we already know the format
is MPEG-TS, it is counterproductive to be so strict -- e.g. in some
files the TEI might be set and analyze() might get called with a smaller
buffer than the one used for probing, resulting in a failure.

lavf: remove unused code

Nothing uses it, and it provides no public API.

Archeological finds:

Commit 101036adb9 added the API.
Commit a8dd8dc6e9 made mpegts.c use it.
Commit af8aae3fa3 disabled it by default in mpegts.c.
Commit ae2bb52cd2 removed all uses of this from mpegts.c.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

frame: clarify buf documentation

Mention explicitly that the array must be filled contiguously.

oma: Report a timestamp

Reported-By: jb@videolan.org
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

dxva2_hevc: properly fill the scaling list structure

The scaling list can be specified in either the SPS or PPS.
Additionally, compensate for the diagonal scan permutation applied
in the decoder.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

fate: Add a test for AAC ELD480.

The source is er_eld_2100np_48_ep0.mp4 from the official test set.

aacsbr: silence message for SBR extension "padding".

Some files contain a few additional, all-0 bits.
Check for that case and don't print incorrect "not supported"
message.

Signed-off-by: Reimar Döffinger <Reimar.Doeffinger@gmx.de>
Signed-off-by: Alex Converse <alex.converse@gmail.com>

aacdec: Support for ER AAC ELD 480.

Based in part on work from Niel van der Westhuizen <espes@pequalsnp.com>.

aacdec: Tables for length 480 AAC ELD.

aacdec: Support for ER AAC in LATM

aacdec: Refactor aac_er_decode_frame.

aacdec: Refactor decode_ics_info.

r3d: Fix pos type

avio_tell can return a negative number.

Bug-Id: CID 1265715
CC: libav-stable@libav.org

tta: Fix framepos and start_offset types

Also propagate errors.

CC: libav-stable@libav.org
Bug-Id: CID 1238812

libopencv: Check kernel_str life cycle

The string might or might not be set depending if there
are args and in case of error it must be freed nonetheless.

CC: libav-stable@libav.org
Bug-Id: CID 739878 / CID 739882

svq1dec: Validate the stages value strictly

It can be less than -1.

Bug-Id: CID 1194397 / CID 1194398
CC: libav-stable@libav.org

svq1enc: correctly handle memory error and allocations

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

isom: Decode Prores 4444 XQ with the existing Prores decoder

The frames seem to contain a higher bitrate which our decoder is
able to handle.

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

mov: Implement parsing of the "HandlerName" from the MP4 HDLR atom

This atom typically is used for a track title. The handler name is stored
as a Pascal string in the QT specs (first byte is the length of the string),
so do not export it.

A second length check based on the first character is added to avoid
overwriting an already specified handler_name (it happens with YouTube
videos for instance, the handler_name get masked), or specifying an
empty string metadata.

The Pascal string fix and the second length check are written
by Clément Bœsch <clement.boesch@smartjog.com>.

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

siff: Return more meaningful error values

siff: K&R formatting cosmetics

Ignore generated file tools/sidxindex.

opus: Factor out imdct15 into a standalone component

It will be reused by the AAC decoder.

configure: Add a dependency on vc1_decoder from vc1_parser

This fixes builds with vc1_parser enabled without vc1_decoder. All
the vc1_decoder object files were included in the vc1_parser line
in libavcodec/Makefile before, but architecture specific object files
for vc1_decoder were not.

Signed-off-by: Martin Storsjö <martin@martin.st>

mem: fix pointer pointer aliasing violations

This uses explicit memory copying to read and write pointer to pointers
of arbitrary object types. This works provided that the architecture
uses the same representation for all pointer types (the previous code
made that assumption already anyway).

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>