h264: drop redundant initialization in init()

There is no real advantage to initializing any of those in init,
assuming yuv420, before the real stream parameters are known.

h264: initialize cur_chroma_format_idc

This makes sure the various DSP contexts get properly initialized in
ff_h264_set_parameter_from_sps() whatever the value of
raw_bits_per_sample.

h264: use the correct SPS during PPS parsing

There is in general no reason for the currently active SPS to be the one
referenced by the PPS being parsed.

avconv: Avoid theoretical NULL dereferences

Bug-Id: CID 1292519

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

h264: disable ER by default

The way it is currently designed is fundamentally unsafe and cannot be
reasonably fixed without completely rewriting it.

avconv: do not overwrite the stream codec context for streamcopy

Since we are not doing encoding, there is no point in ever touching the
separate encoding context. Always use the stream codec context.

Fixes writing attachments.

CC:libav-devel@libav.org

FATE: add a test for parameter changes in HEVC

hevc: make sure no dangling pointers remain around on VPS/SPS change

hevc: do not change the VPS if its contents are the same

This is the same as is done for SPS.

hevc: export stream parameters from extradata

This allows the callers to have a hint of the probable stream parameters
without actually decoding anything.

hevc: split out setting AVCodecContext parameters

Additionally always set the software pixel format, so it's available
even if ff_get_format() is not called later. This will be useful for
exporting stream parameters from init().

mpegtsenc: Take max_delay into account when buffering multiple audio packets into one PES packet

Make sure we don't buffer up more than max_delay worth of data
before writing a PES packet, even if pes_payload_size is set to
a larger value.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtsp: Add a buffer_size option

And forward it to rtp and udp.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

rtp: Add an option to set the send/receive buffer size

It gets forwarded down to UDP.

rtp: Map the urloptions to AVOptions

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

build: Split JPEG-related tables off into a separate component

mjpeg: Use a more precise type for put_marker()

mjpeg: Move code only used in the encoder(s) to the appropriate header

tiff: Return more meaningful error codes

Signed-off-by: Diego Biurrun <diego@biurrun.de>

indeo: Give Indeo4/5 shared code a more consistent name

qsv: Skip header compilation depending on what parts of qsv are enabled

udp: Fix pkt_size management

The default value for unset is -1, not 0.

Problem introduced in 66028b7ba6b411ba12ef553e9c8f1f4a4fe27710

Bug-Id: 835

lavc: add libdcadec decoder

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavc: add profile define for DTS Express

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavc: add MMAL hardware decoder wrapper

Based on a patch by Rodger Combs.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavc: add Intel libmfx-based H.264 encoder

qsvdec: add 'decode' to the non-static function names

qsvdec: split off some code that will be shared with the encoder

qsv: rename to qsvdec

This is to avoid conflicts with the upcoming QSV encoding support.

avisynth: update documentation about the avisynth_c.h header

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

avisynth: Fix compilation against current 2.6 header(s).

AviSynth 2.6 (and by extension, AviSynth+) moves these functions
into AVSC_API. This requires both adjusting their normal use,
and for AvxSynth, adjusting the position/use of the USING_AVISYNTH
ifdefs.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

vaapi_h264: fix slice data offset

dxva2_h264: fix slice offset in long slice structs

lavc: Prefer x264 over openh264 if both libraries are available

pixfmt: Update documentation with prefixed pixel formats

pixdesc: Replace a few leftover instances of non AV-prefixed flags

fate: Add test for tscc2 in mov

Rename the existing tscc2 test.

mov: Write the display matrix in order

This will allow to copy the matrix as is and it is just cleaner to keep
the matrix in the same order specified by the mov standard (which is
also explicitly described in the documentation).

In order to preserve compatibility, flip the angle sign in the display API
av_display_rotation_set() and av_display_rotation_get(), and improve the
documentation mentioning the rotation direction.

movenc: Write the make and model metadata keys for mov style files

These are essential allowing QuickTime to keep detecting content
as slow-motion - this allows preserving them on stream copy.

Signed-off-by: Martin Storsjö <martin@martin.st>

avfilter: Document avfilter_graph_alloc return value

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

oggdec: Check memory allocation

Bug-Id: CID 1257798 / CID 1257805

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

mms: Check memory allocation

Bug-Id: CID 1258462

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

avplay: Check memory allocation

Bug-Id: CID 1288294

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

rmenc: Check memory allocation

Bug-Id: CID 1257832

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

swscale: Check memory allocation

Bug-Id: CID 1267890
CC: libav-stable@libav.org
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

h264: move [uv]linesize to the per-slice context

While it is a per-frame variable, it is only really used in the
low-level decoding code, so it is more efficient to store it in the
slice context.

h264_cabac: remove now unnecessary H264Context function parameters

h264: use a smaller struct for the ref lists

There is no need to store a whole H264Picture, with a full AVFrame
embedded in it. This should allow getting rid of the embedded AVFrame
later.

h264_mb: remove an unused function parameter

h264: drop some mpegvideo remnants from draw_horiz_band()

This code makes no sense for h.264.

h264: drop the now unused per-slice H264Contexts

h264: use the main H264Context as the parent for all slice contexts

There is now no need to have per-slice copies of the H264Context.

h264_slice: constify all the uses of H264Context during slice decoding

All the variables modified by this code are either per-MB arrays or have
been moved to the per-slice context

h264: move rbsp_buffer into the per-slice context

h264: move remaining ER stuff into the per-slice context

error_resilience: do not require mbintra/skip tables

h264dec does not use them at all and only allocates them for ER.

h264: move top_borders into the per-slice context

Also change the method for allocating to the same one as used by
edge_emu_buffer.

h264: move the scratch buffers into the per-slice context

Also change the method for allocating them. Instead of two possible
alloc calls from different places, just ensure they are allocated at the
start of each slice. This should be simpler and less bug-prone than the
previous method.

h264_loopfilter: constify all uses of H264Context

All the variables modified by this code are either per-MB arrays or have
been moved to the per-slice context

h264_cavlc: constify all uses of H264Context

All the variables modified by this code are either per-MB arrays or have
been moved to the per-slice context

h264_cabac: constify all uses of H264Context

All the variables modified by this code are either per-MB arrays or have
been moved to the per-slice context

h264.c: constify all uses of H264Context in slice and lower-level functions

All the variables modified by this code are either per-MB arrays or have
been moved to the per-slice context

h264: move mb_mbaff into the per-slice context

h264: move mb_field_decoding_flag into the per-slice context

h264_mb: constify all uses of H264Context

All the variables modified by this code are either per-MB arrays or have
been moved to the per-slice context

h264_mb: constify block_offset

It is read-only in this code.

h264_mvpred: constify all uses of H264Context

All the variables modified by this code are either per-MB arrays or have
been moved to the per-slice context

h264.h: constify all uses of H264Context

All the variables modified by this code are either per-MB arrays or have
been moved to the per-slice context

h264_direct: constify all uses of H264Context

All the variables modified by this code are either per-MB arrays or have
been moved to the per-slice context

h264: use a separate GetBitContext for slice data

h264: do not abuse the context as a temporary storage in get_last_needed_nal()

Use a local variable instead.

h264: remove some remnants of data partitioning

h264: move resync_mb_{x,y} into the per-slice context

h264: move mb_{x,y} into the per-slice context

h264: move mb_xy into the per-slice context

h264: move is_complex into the per-slice context

h264: move mb_skip_run into the per-slice context

h264: move redundant_pic_count into the per-slice context

h264: move cabac_init_idc into the per-slice context

h264: move loopfilter parameters into the per-slice context

h264: move direct_cache into the per-slice context

h264: move mvd_cache into the per-slice context

h264: move mvd_table into the per-slice context

h264: move last_qscale_diff into the per-slice context

h264: move [{top,left}_]cbp into the per-slice context

h264: move cabac[_state] into the per-slice context

h264: move mb[_{padding,luma_dc}] into the per-slice context

h264: move intra_pcm_ptr into the per-slice context

h264: move the ref lists variables into the per-slice context

h264: move map_col_to_list0[_field] into the per-slice context

h264: move dist_scale_factor[_field] into the per-slice context

h264: move col_{parity,fieldoff} into the per-slice context

h264: move direct_spatial_mv_pred into the per-slice context

h264: move sub_mb_type into the per-slice context

h264: move the slice type variables into the per-slice context

h264: move mb_[uv]linesize into the per-slice context

h264: move neighbor_transform_size into the per-slice context

h264: move {mv,ref}_cache into the per-slice context

h264: move non_zero_count_cache into the per-slice context

h264: move *_samples_available into the per-slice context