avcodec/flacenc: Support Multi dimensional quantization

Now with exact bit computations if exact_rice_parameters is enabled

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/flacenc: Mark pointers/array arguments const which are not changed

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/flacenc: Simplify md5 calculation code by using AV_WL24()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avutil/pixfmt: Improve ascii art showing the meaning of the AVChromaLocation values

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/flacenc: Move udata and sums to FlacSubframe

This significantly reduces the amount of stack space needed and
also permits to simply copy the rice context again without speed
penalty

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

fate: Add test for -exact_rice_parameters 1

avcodec/flacenc: Support calculating rice parameters exactly

Some files benefit by about 0.3% from this, and speedwise its ok
other files do not benefit and encode to the same size

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/flacenc: Do not copy unused udata array -> 5x faster calc_rice_params()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/golomb: Remove disabled and broken code

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/mss2: use < 0 instead of != 0 to check for error of vlc initialization

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ffmpeg_opt: Compensate for DTS/PTS difference in seeking when its based on DTS

Fixes Ticket4554

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libavcodec/x265: detect csps in libx265_encode_init_csp()

Without this change, if you link with an 8bit libx265 and try to specify
a 10bit input color space via:

  ffmpeg -i in.mov -c:v libx265 -pix_fmt yuv420p10le out.mp4

It will error with:

  Incompatible pixel format 'yuv420p10le' for codec 'libx265',
  auto-selecting format 'yuv420p'

With this fix, it will learn if a 10bit libx265 is available at startup,
and thus allow 10bit input color spaces.

Reviewed-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

avcodec/snow_dwt: Remove ff_ prefix from ff_spatial_idwt_init() and ff_spatial_idwt_slice()

They are only used once in the file in which they are defined

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/hevc_cabac: Rename ff_hevc_transform_skip_flag_decode() to hevc_transform_skip_flag_decode()

The function is static and used once in the file its defined in

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avfilter/avfiltergraph: Rename ff_avfilter_graph_config_pointers to graph_config_pointers.

The function is static and only used once in the file its defined in.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/mxfenc: Set horizontal chroma subsample value from pixel format if available

Reviewed-by: tim nicholson <nichot20@yahoo.com>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/mxfenc: Set the component depth from the pixel format if available

Reviewed-by: tim nicholson <nichot20@yahoo.com>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge remote-tracking branch 'rbultje/vp9-bugfixes'

* rbultje/vp9-bugfixes:
  vp9: match another find_ref_mvs() bug in libvpx.
  vp9: fix scaled motion vector clipping for sub8x8 blocks.
  vp9: improve signbias check.
  vp9: don't allow compound references if error_resilience is enabled.
  vp9: clamp segmented lflvl before applying ref/mode deltas.
  vp9: reset loopfilter mode/ref deltas on keyframe.
  vp9: fix crash when playing back 440/440 content with width%64<56.
  vp9: extend loopfilter workaround for vp9 h/v mix-up to work for 422.
  vp9: clip motion vectors in the same way as libvpx does.
  vp9: set skip flag if the block had no coded coefficients.
  vp9: apply mv scaling workaround only when subsampling is enabled.
  vp9: read all 4x4 blocks in sub8x8 blocks individually with scalability.
  vp9: fix segmentation map referencing upon framesize change.
  vp9: disable more pmulhrsw optimizations in idct16/32.
  vp9: disable all pmulhrsw in 8/16 iadst x86 optimizations.

Merged-by: Michael Niedermayer <michaelni@gmx.at>

cmdutils: Fix sign error in display matrix auto-rotation code

This makes the sample from Ticket4560 behave consistently with either branch

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ffmpeg: Do not copy the display matrix if rotation meta-data is manually added

Fixes Ticket4560

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/golomb: fix reading huge signed rice golomb values

No testcase is known, nor any case where such huge values would occur

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/golomb: get_ur_golomb_jpegls: Fix reading huge k values

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/hlsenc: do not append an endlist tag when the stream ends

Reviewed-by: Thomas Volkert <silvo@gmx.net>

avformat/hlsenc: Add hls flag for starting a playlist with  a discontinuity on startup

Reviewed-by: Thomas Volkert <silvo@gmx.net>

avformat/hlsenc: Add hls flag for rounding m3u8 durations to whole numbers, problems with floats on some devices

Reviewed-by: Thomas Volkert <silvo@gmx.net>

avcodec/flacdec: Attempt to auto-detect old buggy flac

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

lavc/vc1: Never decode vc1 as gray if gray decoding was not enabled.

lavf/mpeg: Do not detect unknown audio in Hikvision streams as alaw.

lavc: Print a warning if gray decoding was requested but not enabled.

lavf/wav: Read files >4G if no smaller filesize was written.

Fixes second part of ticket #4543.

lavf/wav: Print an error if files >4G are written.

Additionally, don't write an incorrect shorter size for such files.

Fixes part of ticket #4543.

lavc/h263: Set color_range for gray decoding.

lavc/vc1: Set color_range for gray decoding.

lavf/mov: Tell users about the use_absolute_path option.

Fixes ticket #4539.

lavc/qdrw: Fix overwrite when reading invalid Quickdraw images.

lavc/flac: Fix encoding and decoding with high lpc.

Based on an analysis by trac user lvqcl.

Fixes ticket #4421, reported by Chase Walker.

lavc/flacdec: Sanitize FLACSTREAMINFO usage.

avformat/avidec: add mp2 to the list of exceptions instead of generally treating dshow_block_align==1 special

Fixes Ticket4552

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ffmpeg: only apply last picture flush code at EOF

Fixes Ticket4562

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avfilter/buffersink: return EOF if closed link in av_buffersink_get_frame_flags()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge commit '732dd658687bd9a2e5c622e38c481825b57af250'

* commit '732dd658687bd9a2e5c622e38c481825b57af250':
  doc: Add $branch to FATE config template

Conflicts:
doc/fate.texi

Merged-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/aacenc: use < 0 instead of != 0 for error checks

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/j2kenc: Use ret < 0 instead of ret != 0 for error checks

This is how most code in FFmpeg checks for failures

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/mux: use <0 instead of != 0 for error check of init_muxer()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

vp9: match another find_ref_mvs() bug in libvpx.

If we find a second non-sub8x8 motion vector for a non-first sub8x8
block, and the clamped value is identical to the first non-sub8x8
motion vector, then the resulting nearmv motion vector is forced to
zero.

doc: Add $branch to FATE config template

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

vp9: fix scaled motion vector clipping for sub8x8 blocks.

To match the obscure clipping bug behaviour in libvpx.

avdevice/v4l2: Fix vertical alignment in list_formats() output

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/mov: Fix parsing short loci

Fixes Ticket4557

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avformat/mov: Print reason of loci parsing failure

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ffmpeg: Support preserving the source key frame timings

Added option "source" to force_key_frames

vp9: improve signbias check.

Otherwise it will still scale motion vectors, which leads to corrupted
prediction.

ffmpeg: Remove another unneeded ost->filter_graph check

Fixes CID1241508

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/hevc: Fix typo in num_entry_point_offsets check

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/libtheoraenc: Check for av_malloc failure

Fixes CID1257799

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

vp9: don't allow compound references if error_resilience is enabled.

libvpx (probably accidentally) clears the bits if error_res is set,
along with keyframe/intraonly. This probably wasn't the intention
(since it's local data), but it's behaviour we have to copy...

vp9: clamp segmented lflvl before applying ref/mode deltas.

vp9: reset loopfilter mode/ref deltas on keyframe.

vp9: fix crash when playing back 440/440 content with width%64<56.

vp9: extend loopfilter workaround for vp9 h/v mix-up to work for 422.

avformat/rtsp: print a debug level note if time parsing fails

Fixes CID733718 again

This partly reverts commit eb7ddb5066843ab16caf33b05eafb2576648b797.

avcodec/svq1dec: Remove duplicate buf_size check

Fixes CID1297573

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/dcadec: Check active_bands

Fixes CID1297594 part2

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/dcadec: Check scale table index

Fixes CID1297594 part 1

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/sonic: More completely check sample_rate_index and channels

Fixes CID1271783

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/sonic: check memory allocations

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/smvjpegdec: check avcodec_decode_video2() return code

Fixes CID1271810

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/shorten: More complete pred_order check

Fixes CID1239055

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/shorten: Fix code depending on signed overflow behavior

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/shorten: Check skip_bytes()

Fixes CID1210526

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/put_bits: Remove dead code in put_bits()

Fixes CID1297574

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/proresdec2: Reset slice_count on deallocation

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/vp9: Use separate memset for counts.eob

Makes no real difference, but maybe scares coverity less (CID1297578)

Reviewed-by: "Ronald S. Bultje" <rsbultje@gmail.com>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ffmpeg: Print an error if avfilter_graph_queue_command() failed

Fixes CID1271809

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ffmpeg: remove unneeded ost->filter check

Fixes CID1241508

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/acelp_vectors: Assert that x is within the array in ff_set_fixed_vector()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/vp3: Cleanup order of operations for current_run check

This shouldnt make a difference

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

vp9: clip motion vectors in the same way as libvpx does.

The practical effect of this is that the scaling will wrongly not be
applied to the interpolation edge (the 3/4 constants in this patch).
In other words, we clip to the pre-scaling interpolation, even though
these should be clipped post-scaling. The resulting out-of-frame MVs
are thus automatically clipped within the visible portion of the frame,
which is probably not the intention, but is unfortunately what libvpx
does, so we need to copy that behaviour.

fate: increase the number of filtered frames to 20 for edgedetect* & hue

Suggested-by: ubitux
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

vp9: set skip flag if the block had no coded coefficients.

This reproduces libvpx behaviour. It seems like it originally only
targeted loopfilter behaviour, but this unfortunately effects following
block contexting and thus directs bitstream sync.

lavf/webmdashenc: fix unchecked strftime

Fix unchecked strftime return value. This patch fixes Coverity
CID 1295086.

Signed-off-by: Vignesh Venkatasubramanian <vigneshv@google.com>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/h264_slice: Fix ranges in assert

Fixes CID1297592, CID1297593

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/dvbsubdec: Clear w/h/size on region buffer allocation failure

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/diracdec: Make data_unit_size unsigned

Fixes CID1271788

with this change the value is more explicitly checked, it was fully checked
before though

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

vp9: apply mv scaling workaround only when subsampling is enabled.

vp9: read all 4x4 blocks in sub8x8 blocks individually with scalability.

vp9: fix segmentation map referencing upon framesize change.

avcodec/dcadec: Check subsubframes

Fixes: CID1239152
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/dcadec: Check nchans

Fixes CID1239110

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

vp9: disable more pmulhrsw optimizations in idct16/32.

For idct16, only when called from a adst16x16 variant, so impact is
minor. For idct32, for all, so relatively major impact.

vp9: disable all pmulhrsw in 8/16 iadst x86 optimizations.

They all overflow in various samples that are considered valid input.

hevc: make avcodec_decode_video2() fail if get_format() fails

Personally, I need the decoder to back out if get_format() returns no
usable pixel format. This didn't work because the error code was not
propagated down the call chain. This in turn happened because the
variable declaration removed in this patch shadowed the variable, whose
value is returned at the end of the function. Consequently, failures of
decode_nal_unit() were ignored in this place.

Reviewed-by: Andreas Cadhalpun <andreas.cadhalpun@googlemail.com>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/cavsdec: Use ff_set_dimensions()

Fixes CID1239111 part2

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/cavsdec: Check frame_rate_code

Fixes CID1239111 part1

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/cavsdec: Check esc_code

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

libavutil/softfloat: Add test case for av_add_sf

Recently normalization (av_normalize_sf) of output was added to av_add_sf.
This normalization is used for better precision for small values and the
purpose of this (quite simple) test case is to test difference between double
and softfloat.

The values used are tailored to maximally highlighte problem with precison when
normalization is not used.

Signed-off-by: Nedeljko Babic <nedeljko.babic@imgtec.com>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/qdrw: Fix the code which asks for version 1 samples

The new code only asks for version 1 if its actually version 1 and
prints the version bytes if its something else

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/qdrw: another try at skipping the first 512 bytes

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

avcodec/srtdec: attempt to correct SubRip positioning

The positioning was completely wrong. First, the coordinates are
expressed in ASS playback resolution (which is by default 384x288).
Secondly, the coordinates define a drawing rectangle, not a moving area.
The previous code was making subtitles move from a random position to
another random position.

Here we rescale assuming the video resolution is a DVD one (720x480). We
can't really do anything better so far, but since this positioning
information is often from a DVD rip we can consider them relatively
safe.

avcodec/ass: make default playback resolution available to decoders