dsputil: Move WRAPPER8_16_SQ macro to the only place it is used

dsputil: Move rnd_avg inline functions to a separate header

dsputil: Remove commented-out, unused function declarations

dsputil: Move ff_shrink* function declarations to separate header

dsputil: Move ff_svq3 function declarations to a separate header

dsputil: Move ff_h264_idct function declarations to a separate header

dsputil: Move copy_block functions to a separate header

dsputil: Drop unused functions copy_block{2|4|16}

indeo3: replace use of copy_block4 with put_pixels

The destination is sufficiently aligned for put_pixels here.

Signed-off-by: Mans Rullgard <mans@mansr.com>

mjpegdec: use put_pixels instead of copy_block8

Signed-off-by: Mans Rullgard <mans@mansr.com>

dsputil: Move get_penalty_factor() to the only place it is used.

dsputil: Move ff_block_permute to mpegvideo_enc

dsputil: x86: Fix compile error

Accidentally prefixed ff_ with cextern.

Signed-off-by: Martin Storsjö <martin@martin.st>

dsputil: x86: Convert h263 loop filter to yasm

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

mpegvideo: remove an unused function parameter

rv10: improve buffer size check.

Check slice count and input buffer size before constructing a possibly
invalid pointer, not after.

error_resilience: remove a useless if() and FIXME

pp_time is never set for h264

h264: remove silly macros

They serve no useful purpose and wreak all kind of havoc when h264.h is
included elsewhere.

h263: remove an unused parameter from ff_h263_decode_init_vlc

flac: add channel layout masks for streams with 7 or 8 channels.

They were added to the latest FLAC specification:
https://git.xiph.org/?p=flac-website.git;a=commit;h=65c199a2

Signed-off-by: Anton Khirnov <anton@khirnov.net>

flac: don't check the number of channels before setting the channel layout.

This is unnecessary, as ff_flac_set_channel_layout can handle any number of channels.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

h264chroma: x86: Fix building with yasm disabled

Signed-off-by: Martin Storsjö <martin@martin.st>

rv34: Drop now unnecessary dsputil dependencies

dsputil: Separate h264chroma

mpegvideo: initialize dummy reference frames.

Do not rely on get_buffer initializing them.

Changes yadif tests (off by one in one border pixel), because yadif
reads from those uninitialized lines.

nuv: do not rely on get_buffer() initializing the frame.

yop: initialize palette to 0

The FATE sample contains some pixels with value 0, but the palette
stored in the file contains only values from 16 up. Because the default
and cmdutils get_buffer() initialize the data to 0x80, they appear as
gray dots.
After this commit they change to black dots, which is probably still
incorrect but less visible and doesn't rely on get_buffer() initializing
the data.

yop: check for input overreads.

CC:libav-stable@libav.org

yop: check that extradata is large enough.

CC:libav-stable@libav.org

qtrle: fix the topmost line for 1bit

Signed-off-by: Anton Khirnov <anton@khirnov.net>
CC:libav-stable@libav.org

xxan: properly handle odd heights.

Duplicate the last one or two chroma lines.

Signed-off-by: Anton Khirnov <anton@khirnov.net>
CC:libav-stable@libav.org

fraps: fix off-by one bug for version 1.

CC:libav-stable@libav.org

aasc: fix output for msrle compression.

The bottom line was invalid before.

CC:libav-stable@libav.org

msrledec: check bounds before constructing a possibly invalid pointer,

CC:libav-stable@libav.org

cmdutils: remove ansi from the list of broken codecs.

It's not relying on get_buffer() initializing the frame since
99e36ddd3ee57c38e6ca9e240ba518848487f849.

cdgraphics: do not rely on get_buffer() initializing the frame.

Setting it to zero (instead of 128, as the default get_buffer() does)
also produces more correctly-looking output.

svq1: replace struct svq1_frame_size with an array.

It is used as an array in svq1enc, so this is more correct.

vf_yadif: silence a warning.

clang says:
libavfilter/vf_yadif.c:192:28: warning: incompatible pointer types assigning to
'void (*)(uint8_t *, uint8_t *, uint8_t *, uint8_t *, int, int, int, int, int)'
from 'void (uint16_t *, uint16_t *, uint16_t *, uint16_t *, int, int, int, int, int)'

asf: K&R formatting cosmetics

vc1dec: use codec_id instead of codec_tag for VC1IMAGE

the rest of the code is using codec_id everywhere already

Signed-off-by: Vladimir Pantelic <vladoman@gmail.com>
Signed-off-by: Kostya Shishkov <kostya.shishkov@gmail.com>

sh4: drop unused functions

{avg,put}_pixels4_c are not used.

sh4: Fix silly type vs. variable name search and replace typo

configure: Group all hwaccels together in a separate variable

Add av_cold attributes to arch-specific init functions

Use ptrdiff_t instead of int for {avg, put}_pixels line_size parameter.

This avoids SIMD-optimized functions having to sign-extend their
line size argument manually to be able to do pointer arithmetic.

avfilter: x86: consistent filenames for filter optimizations

mpegvideo: simplify REBASE_PICTURE

Always evaluate to NULL when the source Picture is not located in the
MpegEncContext.picture array. That will only happen for
next/last_picture_ptr when updating the thread context during h264 frame
threaded decoding, where they will point to elements of ref_list. Since
ref_list is not copied during updating the context and is invalid until
it is constructed for the current slice, there is no point in doing
anything complicated with next/last_picture_ptr, as they will get
updated when the ref_list is filled.

vf_hqdn3d: x86: Add proper arch optimization initialization

Use proper "" quotes for local header #includes

ppc: fmtconvert: Drop two unused variables.

bink demuxer: set framerate.

bink demuxer: check malloc return value

bink: fix a check for the first frame.

Packet pts is a very unreliable indicator, use
AVCodecContext.frame_number instead.

doc/developer: Drop obsolete MPlayer reference

doc/developer: Add ISC license to list of acceptable licenses

doc/developer: Add web links for all suggested licenses

x86: hpel: Move {avg,put}_pixels16_sse2 to hpeldsp

configure: Add a comment indicating why uclibc is checked before glibc

configure: Move newlib libc check before mingw libc check

On Cygwin systems MinGW headers can be present if the corresponding
packages have been installed. Since the MinGW libc is checked for
first, this results in newlib getting misdetected as MinGW libc.

avisynth: Change demuxer name to avoid conflicts with AVS

mpegvideo: Do REBASE_PICTURE with byte pointers

REBASE_PICTURE (more specifically, this half of it) takes a Picture
pointer that points into one larger struct, finds the offset of
that Picture within the struct and finds the corresponding field
within another instance of a similar struct.

The pointer difference "pic - (Picture*)old_ctx" is a value given
in sizeof(Picture) units, and when applied back on
(Picture*)new_ctx gets multiplied back with sizeof(Picture). Many
compilers seem to optimize out this division/multiplication, but
not all do.

GCC 4.2 on OS X doesn't seem to remove the division/multiplication,
therefore the new pointer didn't turn out to point to exactly
the right place in the new struct since it only had sizeof(Picture)
granularity (and the Picture is not aligned on a sizeof(Picture)
boundary within the encompassing struct). This bug has been present
before 47318953d as well - with H264, pointers to h->ref_list[0][0]
pointed to 88 bytes before h->ref_list[0][0] after the rebase. After
shrinking Picture, the difference ended up even larger, making
writes via such a Picture pointer overwrite other fields at random
in H264Context, ending up in crashes later.

This fixes H264 multithreaded decoding on OS X with GCC 4.2.

Signed-off-by: Martin Storsjö <martin@martin.st>

dsputil: remove unused functions copy_block{2, 4, 8, 16}.

movenc: Simplify code by using avio_wb24

Signed-off-by: Martin Storsjö <martin@martin.st>

bfin: unbreak compilation

Added a missing header file.

vf_delogo: fix copying the input frame.

CC:libav-stable@libav.org

vf_delogo: fix an uninitialized read.

CC:libav-stable@libav.org

h264: remove obsolete comment.

mpegvideo: remove some unused variables from Picture.

utvideoenc/v410enc: do not set AVFrame.reference.

That field will be deprecated.

pthread: make ff_thread_release_buffer idempotent.

I.e. don't do anything on already released frames.

mvi: set framerate

This container does not store timestamps and thus supports CFR only.

rawdec: use AVPALETTE_SIZE instead of magic constants.

mimic: remove a pointless cast.

mdec: return meaningful error codes.

mdec: cosmetics, reformat

mdec: merge mdec_common_init() into decode_init().

There is no point in keeping those two functions separate.

eatgv: use fixed-width types where appropriate.

x86: Simplify some arch conditionals

bfin: Separate VP3 initialization code

bfin: update VP3 idct

The block must be set to 0.

x86: hpeldsp: Fix a typo, use the right register

This makes the code actually work.

Signed-off-by: Martin Storsjö <martin@martin.st>

shorten: fix array subscript is below array bounds warning

Incidentally fixes alpha builds.

dsputil: Fix error by not using redzone and register name

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

swscale: GBRP output support

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>

arm: vp8: Fix the plain-armv6 version of vp8_luma_dc_wht

This makes the plain-armv6 version use the same registers as the
armv6t2 version above.

This fixes fate-vp8 on plain-armv6 devices.

Signed-off-by: Martin Storsjö <martin@martin.st>

dsputil: x86: Correct the number of registers used in put_no_rnd_pixels16_l2

put_no_rnd_pixels16_l2 allocated 5 instead of 6 registers.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

dsputil: add missing HAVE_YASM guard

Fix compile error under
"--disable-optimizations --disable-yasm --disable-inline-asm"

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

hwaccel: do not offer unsupported pixel formats

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

vdpau: add missing pixel format for H.264

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

dsputil: x86: Convert mpeg4 qpel and dsputil avg to yasm

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

Move H264/QPEL specific asm from dsputil.asm to h264_qpel_*.asm.

doc: update the reference for the title

The recent texi2html exports the title as 'fulltitle_no_texi'.

mpegvideo_enc: fix indentation in load_input_picture()

mpegvideo_enc: do not modify the input frame.

mjpegdec: fix indentation

rawdec: cosmetics, reformat

mimic: return meaningful error codes.

mimic: cosmetics, reformat

iff: drop ff_ prefix from a static function.

pngdec: cosmetics, reformat.

Also remove a commented out line.