avutil/pixdesc: deprecate AV_PIX_FMT_FLAG_PSEUDOPAL

PSEUDOPAL pixel formats are not paletted, but carried a palette with the
intention of allowing code to treat unpaletted formats as paletted. The
palette simply mapped the byte values to the resulting RGB values,
making it some sort of LUT for RGB conversion.

It was used for 1 byte formats only: RGB4_BYTE, BGR4_BYTE, RGB8, BGR8,
GRAY8. The first 4 are awfully obscure, used only by some ancient bitmap
formats. The last one, GRAY8, is more common, but its treatment is
grossly incorrect. It considers full range GRAY8 only, so GRAY8 coming
from typical Y video planes was not mapped to the correct RGB values.
This cannot be fixed, because AVFrame.color_range can be freely changed
at runtime, and there is nothing to ensure the pseudo palette is
updated.

Also, nothing actually used the PSEUDOPAL palette data, except xwdenc
(trivially changed in the previous commit). All other code had to treat
it as a special case, just to ignore or to propagate palette data.

In conclusion, this was just a very strange old mechnaism that has no
real justification to exist anymore (although it may have been nice and
useful in the past). Now it's an artifact that makes the API harder to
use: API users who allocate their own pixel data have to be aware that
they need to allocate the palette, or FFmpeg will crash on them in
_some_ situations. On top of this, there was no API to allocate the
pseuo palette outside of av_frame_get_buffer().

This patch not only deprecates AV_PIX_FMT_FLAG_PSEUDOPAL, but also makes
the pseudo palette optional. Nothing accesses it anymore, though if it's
set, it's propagated. It's still allocated and initialized for
compatibility with API users that rely on this feature. But new API
users do not need to allocate it. This was an explicit goal of this
patch.

Most changes replace AV_PIX_FMT_FLAG_PSEUDOPAL with FF_PSEUDOPAL. I
first tried #ifdefing all code, but it was a mess. The FF_PSEUDOPAL
macro reduces the mess, and still allows defining FF_API_PSEUDOPAL to 0.

Passes FATE with FF_API_PSEUDOPAL enabled and disabled. In addition,
FATE passes with FF_API_PSEUDOPAL set to 1, but with allocation
functions manually changed to not allocating a palette.

avcodec/xwdenc: do not rely on AV_PIX_FMT_FLAG_PSEUDOPAL palettes

This is the only code I found within FFmpeg that still inherently
requires AV_PIX_FMT_FLAG_PSEUDOPAL. It's easily changed not to require
it.

Preparation for the next patch.

avcodec/sheervideo: move tables to own header

Signed-off-by: Paul B Mahol <onemda@gmail.com>

avcodec/clearvideo: add inter-frame decoding

Signed-off-by: Paul B Mahol <onemda@gmail.com>

avcodec/imgconvert: fix possible null pointer dereference

regression since 354b26a3945eadd4ed8fcd801dfefad2566241de

fftools/cmdutils: add support for level flag in loglevel option parser

Allows to manage the AV_LOG_PRINT_LEVEL flag as a prefix to the loglevel
option value, similar to the existing AV_LOG_SKIP_REPEATE flag. Adds
support for setting flags relative to the existing value by using a +/-
prefix.

Previous version reviewed-by: Michael Niedermayer <michael@niedermayer.cc>
Signed-off-by: Tobias Rapp <t.rapp@noa-archive.com>

avcodec/aacdec_fixed: Fix integer overflow in apply_independent_coupling_fixed()

I was not able to reproduce this, this fix is based on just the fuzzer log.
Fixes: 4959/clusterfuzz-testcase-minimized-6035350934781952
Found-by: continuous fuzzing process https://github.com/google/oss-fuzz/tree/master/projects/ffmpeg
Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avcodec/cscd: Error out when LZ* decompression fails

Fixes: Timeout
Fixes: 6304/clusterfuzz-testcase-minimized-ffmpeg_AV_CODEC_ID_CSCD_fuzzer-5754772461191168
Found-by: continuous fuzzing process https://github.com/google/oss-fuzz/tree/master/projects/ffmpeg
Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avformat/options_table: Change the seek2any location in opt table.

Change the seek2any location in avformat_options to make code more
readable.

Signed-off-by: Jun Zhao <mypopydev@gmail.com>
Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avcodec/libaomdec: remove references to gbrp pixfmt

Support for this needs testing, so remove for now.

Signed-off-by: James Almer <jamrial@gmail.com>

avcodec/libaomenc: remove references to gbrp pixfmt

Support for this needs testing, so remove for now.

Signed-off-by: James Almer <jamrial@gmail.com>

avformat/rmdec: make use of avio_get_str()

Also do not set empty metadata.

Signed-off-by: Paul B Mahol <onemda@gmail.com>

avformat/concatdec: only set output stream index before returning packet

Fixes ticket #6434.

Reviewed-by: Nicolas George <george@nsup.org>
Signed-off-by: Marton Balint <cus@passwd.hu>

avcodec/aic: fix decoding of videos which height is not multiple of 16

Fate output changes and under close inspection looks more correct.
Fixes #6187.

Signed-off-by: Paul B Mahol <onemda@gmail.com>

avcodec/scpr: fix decoding of prev+top-topleft prediction in keyframes

Signed-off-by: Paul B Mahol <onemda@gmail.com>

mpeg4video: Add support for MPEG-4 Simple Studio Profile.

This is a profile supporting > 8-bit video and has a higher quality DCT

simple_idct: Template functions to support an input bitdepth parameter

avcodec/scpr: check for possible out of array access

Signed-off-by: Paul B Mahol <onemda@gmail.com>

avformat/utils: use av_packet_make_refcounted to ensure packets are ref counted

Simplifies code, while also fixing a potential leak of side data in pkt.

Signed-off-by: James Almer <jamrial@gmail.com>

avcodec/bsf: use av_packet_make_refcounted to ensure packets are ref counted

Simplifies code.

Signed-off-by: James Almer <jamrial@gmail.com>

avdevice/decklink_dec: use av_packet_make_refcounted to ensure packets are ref counted

Partially reverts commit e91f0c4f8b, simplifying code.

Signed-off-by: James Almer <jamrial@gmail.com>

avcodec/encode: use av_packet_make_refcounted to ensure packets are ref counted

Simplifies code.

Signed-off-by: James Almer <jamrial@gmail.com>

avcodec/frame_thread_encoder: remove usage of av_dup_packet()

Signed-off-by: James Almer <jamrial@gmail.com>

avcodec/avpacket: add av_packet_make_refcounted()

It works as a drop in replacement for the deprecated av_dup_packet(),
to ensure a packet is reference counted.

Reviewed-by: Michael Niedermayer <michael@niedermayer.cc>
Signed-off-by: James Almer <jamrial@gmail.com>

lavf/img2dec: use new iteration API

Signed-off-by: Josh de Kock <josh@itanimul.li>

lav*,tests: remove several register_all calls

avdevice_register_all() is still required to register devices into
lavf (this is required due to lavd being somewhat of a hack).

Signed-off-by: Josh de Kock <josh@itanimul.li>

lavf/format: use const AVInputFormat for iteration

Signed-off-by: Josh de Kock <josh@itanimul.li>

Revert "avformat/format: temporarily use old next api"

This reverts commit 909e00ae816df9b6a05b1c4d0cafb794d4d0ca28.

There is no need to use the old API anymore as the new API now
behaves in the same way (treating devices as formats when loaded).

Signed-off-by: Josh de Kock <josh@itanimul.li>

avfilter: bump version for the latest API change

And fix the entry in doc/APIchanges

Signed-off-by: James Almer <jamrial@gmail.com>

cmdutils: fix new API break the "ffmpeg -muxers/demuxers"

fix commit 2238190 break the "ffmpeg -muxers/demuxers".

Signed-off-by: Jun Zhao <mypopydev@gmail.com>
Signed-off-by: Josh de Kock <josh@itanimul.li>

lavf/allformats: remove left-over index decrement

Signed-off-by: Josh de Kock <josh@itanimul.li>

lavf: move avpriv function definition to internal.h

Signed-off-by: Josh de Kock <josh@itanimul.li>

avformat/mpeg: add missing check

Signed-off-by: Paul B Mahol <onemda@gmail.com>

avformat/mpeg: fix logic failure

Signed-off-by: Paul B Mahol <onemda@gmail.com>

avformat/mpeg: fix detection and demuxing of raw AC3 in mpegps

Fixes #4889.

Signed-off-by: Paul B Mahol <onemda@gmail.com>

avformat/mpeg: fix PCM-DVD mis-detection as MLP

Fixes #6563.

Signed-off-by: Paul B Mahol <onemda@gmail.com>

avfilter/af_amix: add weights option

Signed-off-by: Paul B Mahol <onemda@gmail.com>

avcodec/imgconvert: Fix loss mask bug in avcodec_find_best_pix_fmt_of_list()

example:

AVPixelFormat pixFmts[] = { AV_PIX_FMT_RGB24, AV_PIX_FMT_RGBA };
int loss = 0;
AVPixelFormat best = avcodec_find_best_pix_fmt_of_list(pixFmts, AV_PIX_FMT_BGRA, 1, &loss);

best is AV_PIX_FMT_RGB24. But AV_PIX_FMT_RGBA is better.

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avfilter/showvolume : indent after prev commit and add comment

avfilter/showvolume : move width test for draw volume to the start of the loop

avfilter/showvolume : move clear picture part to a func

and use it if fade == 0.

lavc: prefer the mp3float decoder to the mp3 decoder

On modern x86 systems its around 2x faster. For systems without
FPUs it'll be slower, but our policy is to prefer floating point
implementations and to let users decide what's best (or just not
compile them on systems without FPUs).

Signed-off-by: Rostislav Pehlivanov <atomnuker@gmail.com>

ffmpeg: prevent premature EOF in sub2video with nullptr AVSubtitles

With certain types of input and the filter chain getting re-initialized
or re-configured, multiple nullptr AVSubtitles can get pushed into
sub2video_update() in a row from sub2video_heartbeat.

This causes end_pts, and on the next round pts, to become INT64_MAX,
latter of which signals EOF in framesync, leading to complete loss of
subtitles from that point on.

Thus, check that the sub2video.end_pts is smaller than INT64_MAX
in a similar fashion to sub2video_flush before sending out the
nullptr AVSubtitle. This keeps premature EOFs from happening in
framesync and the subtitle overlay is kept past the filter chain
re-initializations/configurations.

vf_libvmaf: Fix memory leak

Fixes ticket #6967

avfilter/vf_signature: use av_strlcpy()

Fixes: out of array access
Found-by: Kira <kira_cxy@foxmail.com>
Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avcodec/utvideodec: Set pro flag based on fourcc

This avoids mixing 8bit variants with pro and 10bit with non pro mode.
Fixes: out of array read
Fixes: poc_03_30.avi
Found-by: GwanYeong Kim <gy741.kim@gmail.com>
Reviewed-by: Paul B Mahol <onemda@gmail.com>
Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avformat/mov: parse multiple iTunes cover images

Multiple cover images are supported by having multiple data atoms
inside the covr atom. AtomicParsley and mutagen amongst others
support and document this construct.

Signed-off-by: Timo Teräs <timo.teras@iki.fi>
Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

configure: fix build

regression since 8f1382f80e0d4184c54c14afdda6482f050fbba7

cmdutils: use new APIs

Signed-off-by: Josh de Kock <josh@itanimul.li>

lavd: remove linked lists

Signed-off-by: Josh de Kock <josh@itanimul.li>

Revert "lavd: add new API for iterating input and output devices"

This reverts commit 0fd475704e871ef3a535947596a012894bae3cbd.

Revert "lavd: fix iterating of input and output devices"

This reverts commit ce1d77a5e7cebce11074bf6f9e38ad6da37338ff.

Signed-off-by: Josh de Kock <josh@itanimul.li>

lavfi: add new iteration API

Signed-off-by: Josh de Kock <josh@itanimul.li>

checkasm/Makefile: add EXTRALIBS-libavformat

Signed-off-by: Josh de Kock <josh@itanimul.li>

arm: hevcdsp: Add commas between macro arguments

When targeting darwin, clang requires commas between arguments,
while the no-comma form is allowed for other targets.

Since Xcode 9.3, the bundled clang supports altmacro and doesn't
require using gas-preprocessor any longer.

Signed-off-by: Martin Storsjö <martin@martin.st>

arm: hevcdsp: Avoid using macro expansion counters

Clang supports the macro expansion counter (used for making unique
labels within macro expansions), but not when targeting darwin.

Convert uses of the counter into normal local labels, as used
elsewhere.

Since Xcode 9.3, the bundled clang supports altmacro and doesn't
require using gas-preprocessor any longer.

Signed-off-by: Martin Storsjö <martin@martin.st>

arm: swscale: Only compile the rgb2yuv asm if .dn aliases are supported

Vanilla clang supports altmacro since clang 5.0, and thus doesn't
require gas-preprocessor for building the arm assembly any longer.

However, the built-in assembler doesn't support .dn directives.

This readds checks that were removed in d7320ca3ed10f0d, when
the last usage of .dn directives within libav were removed.

Alternatively, the assembly could be rewritten to not use the
.dn directive, making it available to clang users.

Signed-off-by: Martin Storsjö <martin@martin.st>

avfilter/avf_showvolume: let fade be also exactly 0

Signed-off-by: Paul B Mahol <onemda@gmail.com>

doc/avfilter/showvolume : fix doc for orientation param

possible value are h or v.

avfilter/showvolume : indent after prev commit

avfilter/showvolume : calculate fade only if fade < 1.

avfilter/showvolume : add comment for orientation condition

doc/encoders: list missing options for x265

Add entries for crf and profile in libx265 section

Signed-off-by: Lou Logan <lou@lrcd.com>

Merge commit '3a7b4ae62c798edbd82bcd8fef863c74ed2acd4a'

* commit '3a7b4ae62c798edbd82bcd8fef863c74ed2acd4a':
  arm: Produce .const_data instead of .section .rodata for Mach-O

Merged-by: James Almer <jamrial@gmail.com>

Merge commit 'ab05d3934de8e932dbd77979a687e6598e67535c'

* commit 'ab05d3934de8e932dbd77979a687e6598e67535c':
  arm: vc1dsp: Add commas between macro arguments

Merged-by: James Almer <jamrial@gmail.com>

Merge commit 'e744281c49496b0e0a357e9f84c37fbf99215e20'

* commit 'e744281c49496b0e0a357e9f84c37fbf99215e20':
  configure: Revert some incorrect uses of check_cc()

This commit is a noop. The changes reverted here were never applied
to begin with.

Merged-by: James Almer <jamrial@gmail.com>

Merge commit 'ea3320bb828553182fb34e164826f95df5743522'

* commit 'ea3320bb828553182fb34e164826f95df5743522':
  libaomenc: fix profile setting
  avcodec: rename the AV1 profiles

This commit is a noop, see 99cc3cf7a26cd4113e5047034577027d8c6f07a2

Merged-by: James Almer <jamrial@gmail.com>

fate: add test for eac3 dependant stream

Signed-off-by: James Almer <jamrial@gmail.com>

arm: Produce .const_data instead of .section .rodata for Mach-O

This is the same combination of .section directives as used in
aarch64/asm.S.

Since Xcode 9.3, the bundled clang supports altmacro and doesn't
require using gas-preprocessor any longer.

Signed-off-by: Martin Storsjö <martin@martin.st>

arm: vc1dsp: Add commas between macro arguments

When targeting darwin, clang requires commas between arguments,
while the no-comma form is allowed for other targets.

Since Xcode 9.3, the bundled clang supports altmacro and doesn't
require using gas-preprocessor any longer.

Signed-off-by: Martin Storsjö <martin@martin.st>

avcodec/mpc8: get frame output buffer right before it is actually needed

Signed-off-by: Paul B Mahol <onemda@gmail.com>

avcodec/mpc8: check for overread earlier and abort decoding frame

Signed-off-by: Paul B Mahol <onemda@gmail.com>

fftools/ffmpeg: Remove an unused variable.

Fixes a warning:
fftools/ffmpeg.c:2201:22: warning: unused variable 'fg'

fate: add eac3_core bitstream filter test

Signed-off-by: Paul B Mahol <onemda@gmail.com>

avcodec/ac3: fix out of array access introduced previously

Signed-off-by: Paul B Mahol <onemda@gmail.com>

configure: Revert some incorrect uses of check_cc()

avcodec/mpc8: check for overread first

Signed-off-by: Paul B Mahol <onemda@gmail.com>

movtextenc: fix handling of utf-8 subtitles

See the earlier fix for movtextdec for details. The equivalent bug is
present on the encoder side as well.

We need to track the text length in 'characters' (which seems to really
mean codepoints) to ensure that styles are applied across the correct
ranges.

avcodec/libaomenc: use av_assert0()

Signed-off-by: James Almer <jamrial@gmail.com>

Merge commit 'a2fc8dbae85339d1b418d296f2982b6c04c53c57'

* commit 'a2fc8dbae85339d1b418d296f2982b6c04c53c57':
  Add Haivision SRT protocol

Merged-by: James Almer <jamrial@gmail.com>

Merge commit '2124a97a4998413c7e81539b16b01ef6ac570ea9'

* commit '2124a97a4998413c7e81539b16b01ef6ac570ea9':
  configure: Drop unused helper function test_cflags_cpp()

This commit is a noop. The function was replaced in
af7a75cb517141f649cbbe0a9dcdb4854359b740

Merged-by: James Almer <jamrial@gmail.com>

Merge commit '434b44cd6fb4bb9a2bf2bb29ef55ce1a315314b8'

* commit '434b44cd6fb4bb9a2bf2bb29ef55ce1a315314b8':
  configure: Simplify vararg check

Merged-by: James Almer <jamrial@gmail.com>

Merge commit '8c7554e6a9b126bd6ee5bf80dae9e11e056db2f1'

* commit '8c7554e6a9b126bd6ee5bf80dae9e11e056db2f1':
  configure: Add check_x86asm() helper function to simplify some expressions

Merged-by: James Almer <jamrial@gmail.com>

Merge commit '17ee5b0c13bc17465b71bc9ca1cde9f0eed8b3ff'

* commit '17ee5b0c13bc17465b71bc9ca1cde9f0eed8b3ff':
  configure: Use indirection for the -o assembler flag also for x86asm

Merged-by: James Almer <jamrial@gmail.com>

Merge commit 'b9ea301e02472d0982b0fa0f80294bd95885bde8'

* commit 'b9ea301e02472d0982b0fa0f80294bd95885bde8':
  configure: Use a more sensible suffix for x86 assembly tempfiles

Merged-by: James Almer <jamrial@gmail.com>

Merge commit '5292e97c42b05db7ad4e51c1ea756b12fdf721ff'

* commit '5292e97c42b05db7ad4e51c1ea756b12fdf721ff':
  configure: Document available options for the --toolchain parameter

Merged-by: James Almer <jamrial@gmail.com>

Merge commit '86499771d1228d8303c8eb6509e20c0caaa02da5'

* commit '86499771d1228d8303c8eb6509e20c0caaa02da5':
  qsv: align surface width/height to 16.

Merged-by: James Almer <jamrial@gmail.com>

Merge commit 'ea2f72a2c14c67a3b35dac6426d1e3c0fae33fd5'

* commit 'ea2f72a2c14c67a3b35dac6426d1e3c0fae33fd5':
  configure: Don't assume a 16 byte aligned stack on BSDs on i386

Merged-by: James Almer <jamrial@gmail.com>

Merge commit 'deefca02c275ce4bc5ccbee690463ffef81a18b8'

* commit 'deefca02c275ce4bc5ccbee690463ffef81a18b8':
  qsvenc: add the Access Unit Delimiter NAL Unit support

Merged-by: James Almer <jamrial@gmail.com>

Merge commit '3d6e76b953afd36e23ef8532b81aea58a6338931'

* commit '3d6e76b953afd36e23ef8532b81aea58a6338931':
  qsvenc: Fix a typo of FrameRateExtD/FrameRateExtN

Merged-by: James Almer <jamrial@gmail.com>

Merge commit '847190ebd99ffd57dc89bd568a33bf2d5c424129'

* commit '847190ebd99ffd57dc89bd568a33bf2d5c424129':
  configure: Don't assume an aligned stack on clang on windows

Merged-by: James Almer <jamrial@gmail.com>

avcodec/wmalosslessdec: Fix null pointer dereference in decode_frame()

Fixes: 2018_03_23_poc.wav
Found-by: GwanYeong Kim <gy741.kim@gmail.com>
Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avcodec/libaomenc: minor cosmetics

Signed-off-by: James Almer <jamrial@gmail.com>

avformat/mpc8: do not return error on stream end

Signed-off-by: Paul B Mahol <onemda@gmail.com>

libaomenc: fix profile setting

Main Profile is yuv420p 8 and 10 bit
High Profile is yuv444p 8 and 10 bit
Professional Profile is yuv422p 8, 10, and 12 bit, plus every other pixfmt at 12 bit

Signed-off-by: James Almer <jamrial@gmail.com>

avcodec: rename the AV1 profiles

Use the proper names instead of numbers

Signed-off-by: James Almer <jamrial@gmail.com>

lavfi/silencedetect: Fix missing log at eos

Fixes ticket #6968

lavfi/silencedetect: Fix silence_end accuracy

lavfi/silencedetect: Fix silence_start accuracy

lavfi/silencedetect: Update test parameters

Set relevant filter parameters such that the result can easily be
checked with a waveform editor.
In particular, it makes it clear the silence_start is not accurate in
the current code.

lavfi/silencedetect: Fix when silence_start=0

0 is a valid value for silence_start