avcodec/options_table: fix strict compliance constant flags to match the strict field

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avformat/options_table: Add missing identifier for very strict compliance

Fixes Ticket5443

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

fate: wma: add lossless 24bits tests

Should evaluate coefficients and raw pcm tiles.

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avcodec/mjpegdec: Do not try to detect last scan but apply idct after all scans for progressive jpeg

Fixes: IMG-20160418-WA0002.jpg
Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avcodec/mjpeg2jpeg_bsf: Check ff_bsf_get_packet success

This fixes ticket #5487 - mjpeg2jpeg bitstream filter causes
segmentation fault with header-less mjpeg.

Signed-off-by: Jan Sebechlebsky <sebechlebskyjan@gmail.com>
Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avcodec/dca: move channel counter utility into dca.h

Signed-off-by: James Almer <jamrial@gmail.com>

avcodec/dca: move huffman data into separate object file

Signed-off-by: James Almer <jamrial@gmail.com>

avcodec/noise_bsf: set correct size of .priv_data_size field

Signed-off-by: Paul B Mahol <onemda@gmail.com>

avcodec/wmalosslessdec: Fix memset sizeof

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avcodec/smc: Mark pixel pointer as const

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avformat/wsddec: set bit_rate, fixes duration estimation

Signed-off-by: Paul B Mahol <onemda@gmail.com>

avformat/dsfdec: set bit_rate, fixes duration estimation

Signed-off-by: Paul B Mahol <onemda@gmail.com>

lavf/mpegts: Return small probe score for very short transport streams.

Fixes Debian bug 823098.

lavc/fic: Do not warn about empty cursor.

Fixes ticket #5174.

lavc/fic: Be less verbose for invisible cursor outside of video.

lavc/srtenc: do not emit any subrip tags with text codec

Fixes presence of opening tags when running
  ffmpeg -i x.ass -c text x.srt

Reported-by: Jean First <jeanfirst@gmail.com>

lavc: override decode return value only in case of error

Fixes Ticket #5350

Regression since 29412821241050c846dbceaad4b9752857659977.

avcodec/wmalosslessdec: silence a sample request

16bits samples with CDLMS orders of 8 are currently unsupported, but have never
been encountered before.

However, 8 seems to be the most frequent, if not the only order used for 24bits.
In that case, the dsp functions are fine with handling order that are multiples
of 8, so silence the warning.

Signed-off-by: Paul B Mahol <onemda@gmail.com>

avcodec/wmalosslessdec: fix type for coeffs and lms_updates in cdlms struct

They should really be int16_t.

Signed-off-by: Paul B Mahol <onemda@gmail.com>

avcodec/dcaenc: move channel reordering tables to dcaenc.h

DCA core decoder no longer uses fixed tables for channel reordering.
Move them into private encoder header (and drop ff_dca_ prefix).

Signed-off-by: James Almer <jamrial@gmail.com>

avcodec/dcaenc: reuse shared quant levels table

Signed-off-by: James Almer <jamrial@gmail.com>

avformat/riff: add m704

(Ticket 2616)

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avcodec/mpeg12dec: Print position in end mismatch error

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avcodec/mpeg12dec: Do not choke on extra m704 alpha data

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avcodec/wmalosslessdec: fix decoding of raw pcm tiles

Signed-off-by: Paul B Mahol <onemda@gmail.com>

avformat/iff: fix deadlock in parsing dsd chunks

Signed-off-by: Paul B Mahol <onemda@gmail.com>

avformat/dsfdec: check if number of channels is <= 0

Fixes FPE bellow.

Signed-off-by: Paul B Mahol <onemda@gmail.com>

avformat: add Wideband Single-bit Data (WSD) demuxer

Signed-off-by: Paul B Mahol <onemda@gmail.com>

configure: Add pixelutils dependency for framerate filter.

avcodec/utils: split side-data in new decode API too

The deprecated avcodec_decode_video2() and avcodec_decode_audio4()
functions called av_packet_split_side_data() on the input packets. This
is required for packets produced by libavformat with the
AVFMT_FLAG_KEEP_SIDE_DATA flag unset (which is unfortunately the
default).

The new API didn't do this yet, although it didn't matter as no decoder
supports the new API yet. The emulation layer for the old API calls the
old API functions, which took care of the splitting. Add this code to
the new API codec entrypoints too, because we shouldn't send essentially
corrupted data to decoders.

avformat/ffmdec: Check pix_fmt

Fixes crash
Fixes Ticket5412

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avcodec/cfhd: Don't decode coefficients if no end of header tag found. Fixes fuzzed files such as the one in in ticket #5383

configure: Allow choice in choosing a symlink command

Signed-off-by: Dave Yeo <daveryeo@telus.net>
Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

configure: Do not create/install versioned DLLs on OS/2.

Only one DLL for each module must be present on OS/2: SLIBNAME_WITH_MAJOR
(the same as on Windows). Creating other DLLs makes no sense as they can't
be used.

Signed-off-by: Dave Yeo <daveryeo@telus.net>
Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avformat/riff: support for matrox m703 mpeg-2

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avutil/log: Fix occured typo

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avformat/riff: assign g721 and g723 codec tags to g726 decoder

avcodec/nvenc: Add missing lossless presets to doc string

configure: Don't require nonfree for nvenc

As the nvEncodeApi.h header is now MIT licensed, this can be dropped.
The loaded CUDA and NVENC libraries are part of the nvidia driver, and
thus count as system libraries.

avutil/log: added test case for av_log_format_line2

Signed-off-by: Andreas Weis <github@ghulbus-inc.de>
Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avutil/log: added av_log_format_line2 which returns buffer length

The new function behaves the same as av_log_format_line, but also forwards
the return value from the underlying snprintf call. This will allow
callers to accurately determine the size requirements for the line buffer.

Signed-off-by: Andreas Weis <github@ghulbus-inc.de>
Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

Merge commit '549fc77273636d0d02175362af5dcd60c79f7633'

* commit '549fc77273636d0d02175362af5dcd60c79f7633':
  svq3: move mb2br_xy to the SVQ3Context

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit '99dde60391cade40ae026b9e385a5280be6b9882'

* commit '99dde60391cade40ae026b9e385a5280be6b9882':
  svq3: move {ref,mv}_cache to the SVQ3Context

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit '89a13998a1b5074411dff5a461dce3837057b0b8'

* commit '89a13998a1b5074411dff5a461dce3837057b0b8':
  svq3: rip out the svq3-relevant parts of pred_motion() out of h264

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit '8eecae77ff6e2923de57dd883421d24fd53ca61f'

* commit '8eecae77ff6e2923de57dd883421d24fd53ca61f':
  svq3: move edge_emu_buffer to the SVQ3Context

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit '527bf5f7c6890664b0f1dccd42397f4d204659fe'

* commit '527bf5f7c6890664b0f1dccd42397f4d204659fe':
  svq3: move the pred mode variables to SVQ3Context

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit 'ecc31f6b086453ab9811dce2ae5ceb6a7c19e4ad'

* commit 'ecc31f6b086453ab9811dce2ae5ceb6a7c19e4ad':
  h264: move ff_h264_check_intra[4x4]_pred_mode() to h264_parse

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit '1877712c586df2261f2806f45388c77592b89d1e'

* commit '1877712c586df2261f2806f45388c77592b89d1e':
  svq3: move mb_{x,y,xy} to SVQ3Context

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit 'c2a4ca944d9029a3c162f8f3ddd317b83a7bd600'

* commit 'c2a4ca944d9029a3c162f8f3ddd317b83a7bd600':
  svq3: eliminate write_back_intra_pred_mode() usage

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit 'c73fb9efb22c8d66d24de2716f7f9970f234c3c3'

* commit 'c73fb9efb22c8d66d24de2716f7f9970f234c3c3':
  svq3: add all the required dsp contexts into SVQ3Context

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit '15b0517da986b312fc2fcb364a92db328380b15b'

* commit '15b0517da986b312fc2fcb364a92db328380b15b':
  svq3: make the dsp functions static

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit '9b30f8dd8fa5bef5f16904cb98745b4a58f8f776'

* commit '9b30f8dd8fa5bef5f16904cb98745b4a58f8f776':
  h264: remove the svq3-specific code

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

qsv: Fix wrong ticks_per_frame for H.264

For H.264 stream ticks_per_frame should be 2, as per the docs.

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

avcodec/alsdec: Fix bitstream reading

Signed-off-by: Umair Khan <omerjerk@gmail.com>
Reviewed-by: Thilo Borgmann <thilo.borgmann@mail.de>
Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avcodec/shorten: make max frame size bigger if custom block size was used

Signed-off-by: Paul B Mahol <onemda@gmail.com>

avcodec/h264: Only recover from reference pictures

Fixes spec compliance
Fixes Ticket5346

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avcodec/svq3: fix assert type (was av_assert2 in h264 from where this was copied)

Type was lost in f8d1bb2f2ce9031940019e1cda4d30bc409ee349

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avcodec/ttaenc: Reallocate packet if its too small

Fixes assertion failure
Fixes Ticket5394

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

lavc/audiotoolboxdec: move to new BSF API

lavc/audiotoolboxdec: fix memory leak

lavf/concatdec: clear extradata when inserting h264_mp4toannexb bsf.

Fix remuxing H.264-in-MP4 to Matroska, possibly others.

lavf/concatdec: remove unrelated change during codecpar merge.

Clearing the extradata is not related to the codecpar change,
and it breaks if auto_convert is disabled.

Fix trac ticket #5461.

Merge commit 'e42ca48a8bddc637a4013ab253598973f07e1a5c'

* commit 'e42ca48a8bddc637a4013ab253598973f07e1a5c':
  svq3: rip out the mb decoding code shared with h264

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit 'e481458bc308ee838deaeacac51929514762e7a7'

* commit 'e481458bc308ee838deaeacac51929514762e7a7':
  h264: factor out pred weight table parsing into a separate file

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit '90ed6c5cf7f236bc9efb47c97b40358c666d1386'

* commit '90ed6c5cf7f236bc9efb47c97b40358c666d1386':
  h2645_parse: compute the actual data length, without trailing paddding

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit 'b667252a41fbf5a3f6ea8c67fdbc03db3d748977'

* commit 'b667252a41fbf5a3f6ea8c67fdbc03db3d748977':
  h2645_parse: add support for parsing h264

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit '52ec149fbee57b6ca817049c9706212a0774a32c'

* commit '52ec149fbee57b6ca817049c9706212a0774a32c':
  h2645_parse: change the AVCodecContext* parameter to void*

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit '8229eff4b7a98ae5d85bb75f3bb072781b4a8ebe'

* commit '8229eff4b7a98ae5d85bb75f3bb072781b4a8ebe':
  h2645_parse: add a function for uninitializing the packet

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit 'fa936a307f5cddfc2664600157a8207ca8080af6'

* commit 'fa936a307f5cddfc2664600157a8207ca8080af6':
  hevc_parse: rename into h2645_parse

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

qsvenc_hevc: Fix usage of ff_hevc_extract_rbsp

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

libavcodec/exr: move xsize and ysize to thread data

Fixes slice threading.

Signed-off-by: James Almer <jamrial@gmail.com>

lavc/hevc_parse: Don't take a HEVCContext

It's not even used anymore, and the checks are no longer
functionally important.

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

avcodec/ac3dec: Reset SPX when switching from EAC3 to AC3

Fixes Ticket5319

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

pgssubdec: fix subpicture output colorspace and range

Functionality used before didn't widen the values from limited to
full range. Additionally, now the decoder uses BT.709 where it
should be used according to the video resolution.

Default for not yet set colorimetry is BT.709 due to most observed
HDMV content being HD.

BT.709 coefficients were gathered from the first two parts of BT.709
to BT.2020 conversion guide in ARIB STD-B62 (Pt. 1, Chapter 6.2.2).
They were additionally confirmed by manually calculating values.

Fixes #4637

Merge commit 'cdb1665f70def544ddab3e3ed3763ef99c8b3873'

* commit 'cdb1665f70def544ddab3e3ed3763ef99c8b3873':
  aarch64: Make transpose_4x4H do a regular transpose

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit 'edf54887e2935a30f9d9a46dd806802c3c867c0e'

This merge is a no-op.

* commit 'edf54887e2935a30f9d9a46dd806802c3c867c0e':
  rtpdec_jpeg: fix low contrast image on low quality setting

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit '159323897f545e7405fb9db234e0ba123e174376'

* commit '159323897f545e7405fb9db234e0ba123e174376':
  intrax8: Add a local BlockDSPContext and initialize it

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit '1eaae7abb8f208fefb4e8b9e983e61b2499206a3'

* commit '1eaae7abb8f208fefb4e8b9e983e61b2499206a3':
  intrax8: Reference the current AVCodecContext

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit '8072345e9f86d88fbc4a15c17cb03f1e4701c9a5'

* commit '8072345e9f86d88fbc4a15c17cb03f1e4701c9a5':
  intrax8: Keep a reference to the GetBitContext reader

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit '65f14128c4bcf8fcd9d3ba1e20b7a22057c9cfb0'

* commit '65f14128c4bcf8fcd9d3ba1e20b7a22057c9cfb0':
  intrax8: Use a constant buffer instead of a ScratchpadContext

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit 'eaeba6f241e0de0e797be10f8fda967ef8489e64'

* commit 'eaeba6f241e0de0e797be10f8fda967ef8489e64':
  intrax8: Pass the output frame to the decoding function

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit '577393321c389ad2973bec6168a8045c94a9e099'

* commit '577393321c389ad2973bec6168a8045c94a9e099':
  intrax8: Carry over the loopfilter value in ff_intrax8_decode_picture

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit '68127e1bf8037a6e0acd6401cc8c5da950e3fa0a'

* commit '68127e1bf8037a6e0acd6401cc8c5da950e3fa0a':
  intrax8: Keep a reference to the context idctdsp

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit '65127450add50c3bca307edc0517d2e8382717a0'

* commit '65127450add50c3bca307edc0517d2e8382717a0':
  intrax8: Make x8_init_block_index not use mpegvideo fields

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit '922b7e6d86e6197dfa5ebde602dd12cc66fb5f1f'

* commit '922b7e6d86e6197dfa5ebde602dd12cc66fb5f1f':
  intrax8: Use local destination buffers

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit 'a7da517f6a5c472f46f67dd33bb6b95ccc919923'

* commit 'a7da517f6a5c472f46f67dd33bb6b95ccc919923':
  h264data: Move all data tables from a header to a .c file

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit 'f4d581cda3897f66c1dda7586b93f86a591dbbef'

* commit 'f4d581cda3897f66c1dda7586b93f86a591dbbef':
  lavc: Deduplicate zigzag_scan table

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

avfilter/vf_drawtext: Check return code of load_glyph()

Fixes segfault
Fixes Ticket5347

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

Merge commit '02cd8bb9cb4381c50f42a9284098cc8a33d397db'

* commit '02cd8bb9cb4381c50f42a9284098cc8a33d397db':
  h264: Clean up #includes

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

avformat/mux: Check that deinit is set before calling it

Fixes null pointer dereference

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avformat/mpegts: Skip over broken 0x80 headers

This fixes demuxing of 01c56b0dc1.ts

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avformat/mpegts: factor duplicate seek back code into mpegts_resync

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avcodec/utils: Assert that the number of consumed bytes in avcodec_decode_audio4() is <= the input size

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

lavf/isom: Support Perian tag NELL for nellymoser.

Reported by forum user turas35.

avutil/aes: Remove duplicate include

Signed-off-by: Michael Niedermayer <michael@niedermayer.cc>

avformat/tee: Handling slave failure in tee muxer

Adds per slave option 'onfail' to the tee muxer allowing an output to
fail, so other slave outputs can continue.

Reviewed-by: Nicolas George <george@nsup.org>
Signed-off-by: Jan Sebechlebsky <sebechlebskyjan@gmail.com>
Signed-off-by: Marton Balint <cus@passwd.hu>

avformat/tee: Fix leaks in tee muxer when open_slave fails

In open_slave failure can happen before bsfs array is initialized,
close_slave must check that bsfs is not NULL before accessing
tee_slave->bsfs[i] element.

Slave muxer expects write_trailer to be called if it's
write_header suceeded (so resources allocated in write_header
are freed). Therefore if failure happens after successfull
write_header call, we must ensure that write_trailer of
that particular slave is called.

Some cleanups are made by Marton Balint.

Reviewed-by: Nicolas George <george@nsup.org>
Signed-off-by: Jan Sebechlebsky <sebechlebskyjan@gmail.com>
Signed-off-by: Marton Balint <cus@passwd.hu>

avcodec/utils: fix minor memory leaks on avcodec_open2() failure

Merge commit '704a39769719d2e1ae3f13bfc562b51c9cd002d7'

* commit '704a39769719d2e1ae3f13bfc562b51c9cd002d7':
  rtmpdh: add an stdio.h include

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

Merge commit 'e3dfef8e3c85a64dbe6388117303f5819fa3c6a2'

This commit is a no-op. Ivan Uskov is going to port it for us.

* commit 'e3dfef8e3c85a64dbe6388117303f5819fa3c6a2':
  qsvdec_h2645: switch to the new BSF API

Merged-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>