[PATCH] Fix crash when initializing multi-threaded decoding for corrupted file.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

sol: use AV_RL32 instead of raw pointer cast

Signed-off-by: Mans Rullgard <mans@mansr.com>

cook: use a table for xor key rotation

This is simpler and avoids an invalid shift by 32 in the
aligned case.

Signed-off-by: Mans Rullgard <mans@mansr.com>

apedec: fix signed integer overflows

This bit manipulation is equivalent but avoids undefined
shifts and overflows.

Signed-off-by: Mans Rullgard <mans@mansr.com>

qtrle: simplify 32-bit decode using intreadwrite macros

Signed-off-by: Mans Rullgard <mans@mansr.com>

gif: fix invalid signed shifts

Signed-off-by: Mans Rullgard <mans@mansr.com>

rtjpeg: simplify get_block() by using get_bits_left.

Signed-off-by: Reimar Döffinger <Reimar.Doeffinger@gmx.de>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

rtjpeg: check get_block return value for error.

This avoids crashes due to reading out-of-bounds.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

nuv: check per-frame header for validity.

Since it contains dimensions parsing an invalid one has rather
annoying effects.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

nuv: use FFALIGN.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

flicvideo: check extradata_size before accessing extradata.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

fraps: check for overread.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

cook: fix apparent typo in extradata parsing

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavc: update doxy to use nondeprecated API.

swscale: Readd #define _SVID_SOURCE

This was removed erroneously in
046f081b46c8479820409cf8f530b988221bd15b. This define still is
necessary for getting MAP_ANONYMOUS defined on linux/glibc,
despite the define reshuffling done in that commit.

Without MAP_ANONYMOUS defined, the mprotect calls for setting the
generated mmx2 scaler code pages executable are left out, causing
crashes if that codepath is chosen.

This patch fixes scaling from 192x144 to 320x240 with
-sws_flags fast_bilinear, which crashes on linux at the
moment.

Signed-off-by: Martin Storsjö <martin@martin.st>

Fix av_get_channel_layout_string() for positions >31

A value shifted left by >31 needs to have a 64-bit type.
As there are no defined channels in this range, the fix
is purely theoretical at this point, although it does
avoid some invalid shifts triggering the overflow
checker.

Signed-off-by: Mans Rullgard <mans@mansr.com>

configure: Store vda lib flags in extralibs instead of ldflags

This way the needed linking flags end up in libavcodec.pc.

Signed-off-by: Martin Storsjö <martin@martin.st>

Make channel layout masks unsigned

It makes more sense for a bit mask to use an unsigned type.
The change should be source and binary compatible on all
supported systems, hence micro version bump.

Fixes a few invalid shifts.

Signed-off-by: Mans Rullgard <mans@mansr.com>

dca: ARMv6 optimised decode_blockcode()

This is a hand-tuned version of the code with impossible parts of
the FASTDIV function ommitted.

2-5% faster overall on Cortex-A8.

Signed-off-by: Mans Rullgard <mans@mansr.com>

nullenc: drop AVFMT_RAWPICTURE from the flags

This makes the two pass encoding with x264 working with -f null - as
first pass.

frame-mt: return consumed packet size in ff_thread_decode_frame

This is required to fulfill avcodec_decode_video2() promise to return
the number of consumed bytes on success.

aacdec: add more fate tests covering SBR and PS

Add all seven test bitstreams of Coding Technologies "aacPlus Decoder
Check Package". The streams cover different ways to signal SBR and PS
in different formats.

MK(BE)TAG: avoid undefined shifts

Casting the left-most byte to unsigned avoids an undefined
result of the shift by 24 if bit 7 is set.  This affects
the rm demuxer.

Signed-off-by: Mans Rullgard <mans@mansr.com>

snow: split snow in snowdec and snowenc

The common non inlined code goes in snow.c, the common inlined code in
snow.h, tables move in snowdata.h (included only by snow.c)

tiffenc: deprecate using compression_level

swscale: fix failing fate tests.

isGray() is left as a FIXME for later.

swscale: add support for planar RGB input.

h264: add support for decoding planar RGB images.

Clean up swscale pixfmt macros using av_pix_fmt_descriptors[].

pixfmt: add planar RGB formats.

libavutil: add utility functions to simplify allocation of audio buffers.

Based on code by Stefano Sabatini.

libavutil: add planar sample formats and av_sample_fmt_is_planar()

avconv: fix segfault at EOF with delayed pictures

At EOF it makes no sense to modify avpkt.{data,size} in output_packet
since no data is consumed. Frame threading with more than 1 threads
hits the segfault.

pcmdec: remove unneeded resetting of samples pointer

avconv: remove a now unused parameter from output_packet().

avconv: formatting fixes in output_packet()

avconv: declare some variables in blocks where they are used

avconv: use the same behavior when decoding audio/video/subs

I.e. if the packet was only partially consumed, pass the rest of it into
the decoder again.

Also simplify the code so it's the same for video/audio/subs.

bethsoftvideo: return proper consumed size for palette packets.

Also check for sufficient packet size.

cdg: skip packets that don't contain a cdg command.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

crcenc: add flags

AVFMT_NOTIMESTAMPS for crc, as it ignores the timestamps.
AVFMT_VARIABLE_FPS for framecrc, as it prints dts.

Many FATE changes, because avconv is no longer duplicating frames in
those tests.
Also added -vsync 0 for some tests to prevent avconv from dropping
frames until it can be fixed more properly.

avconv: use vsync 0 for AVFMT_NOTIMESTAMPS formats.

Prevent avconv from duplicating or dropping frames for formats where it
makes even less sense than usual, e.g. image2.

tiffenc: add a private option for selecting compression algorithm

md5enc: add flags

AVFMT_NOTIMESTAMPS for md5, as it ignores the timestamps.
AVFMT_VARIABLE_FPS for framemd5, as it prints dts.

-vsync 0 for the vp8 test is needed because with vsync 2 the timestamp
guessing code gets confused by an altref frame that is never displayed
and drops a frame later.

ARM: remove needless .text/.align directives

The 'function' macro already includes the appropriate
directives.

Signed-off-by: Mans Rullgard <mans@mansr.com>

aacdec: Fix PS in ADTS.

Fixes File1.aac and Bug 80.

avconv: Consistently use PIX_FMT_NONE.

Use PIX_FMT_NONE instead of -1 when dealing with PixelFormat variables.

dsputil: use cpuflags in x86 emu_edge_core

avoids passing around the extra argument among all the macros it uses

dsputil: use movups instead of movdqu in ff_emu_edge_core_sse()

This allows emulated_edge_mc_sse() and gmc_sse() to be used under
AV_CPU_FLAG_SSE.

wma: initialize prev_block_len_bits, next_block_len_bits, and block_len_bits.

The initial values are not checked against the number of block sizes.
Initializing them to frame_len_bits will result in a block size index of 0
in these cases instead of something that might be out-of-range.

Fixes Bug 81.

mov: Remove some redundant and obsolete comments.

Add libavutil/mathematics.h #includes for INFINITY

This fixes build errors in some environments.

Signed-off-by: Mans Rullgard <mans@mansr.com>

doxy: structure libavformat groups

doxy: introduce an empty structure in libavcodec

doxy: provide a start page and document libavutil

Introduce a basic layout, the subpages are currently left empty.

Split libavutil in multiple groups as example of the structure

doxy: cleanup pixfmt.h

Remove the dubious warning about the header being private and
add some formatting

regtest: split video encode/decode tests into individual targets

Signed-off-by: Mans Rullgard <mans@mansr.com>

ARM: add explicit .arch and .fpu directives to asm.S

This prevents build errors when compiler and assembler default
targets differ.  Ideally each file would declare the highest
level it requires.  This is however not easily possible as it
complicates assembling pre-armv6t2 code in Thumb-2 mode.

HAVE_NEON is used as indicator for ARMv7-A since no other
symbol exists for this and NEON is only available in this
variant.

Signed-off-by: Mans Rullgard <mans@mansr.com>

pthread: do not touch has_b_frames

Adding the thread count in frame level multithreading to has_b_frames
as an additional delay causes more problems than it solves.
For example inconsistent behaviour during timestamp calculation in
libavformat.
Thread count and frame level multithreading are both set by the user.
If the additional delay caused by frame level multithreading needs
to be considered in the calling code it has all information to take
it into account.
Should it become necessary to calculate a maximum delay inside
libavcodec it should be exported as its own field and not reusing
an existing field.

Based on a patch by Michael Niedermayer.

Signed-off-by: Janne Grunau <janne-libav@jannau.net>

avconv: cleanup the transcoding loop in output_packet().

avconv: split subtitle transcoding out of output_packet().

avconv: split video transcoding out of output_packet().

avconv: split audio transcoding out of output_packet().

avconv: reindent.

avconv: move streamcopy-only code out of decoding loop.

avconv: remove an always true condition and reindent.

avconv: split off streamcopy handling into a separate loop.

This is easier to understand and is less likely to break horribly when a
stream is to be both decoded and copied.

pthread: add some malloc failure checks

avconv: cosmetics, reformat transcode_init()

Fix spacing, vertically align, break some long lines, add some empty
lines for readability.

avconv: rename 'os' variable to 'oc'

Output AVFormatContext is called 'oc' in most other places.

doc/filters: fix some typos.

configure: add libpulse to help output

Fixes Bug 72.

httpproxy: Fix dependencies

Fix building with --disable-network.

Signed-off-by: Martin Storsjö <martin@martin.st>

httpproxy: Specify the object files needed in the Makefile

Signed-off-by: Martin Storsjö <martin@martin.st>

swscale: Fix stack alignment for SSE

Although gcc guarantees 16 byte stack alignment, threads under WinXP
don't appear to be guaranteed to start stack aligned.  So fix the
alignment.

Signed-off-by: Ronald S. Bultje <rsbultje@gmail.com>

avcodec: move some AVCodecContext fields to an internal struct.

A new field, AVCodecContext.internal is used to hold a new struct
AVCodecInternal, which has private fields that are not codec-specific and are
used by general libavcodec functions.

Moved internal_buffer, internal_buffer_count, and is_copy.

avcodec: use av_opt_set() instead of deprecated av_set_string3()

avcodec: fix some const warnings

libavcodec/options.c:583: warning: assignment discards qualifiers from pointer
target type
libavcodec/options.c:589: warning: initialization discards qualifiers from
pointer target type

avcodec: remove pointless AVOption, internal_buffer_count

imgutils: Fix illegal read.

Found with address sanitizer.

Signed-off-by: Alex Converse <alex.converse@gmail.com>

configure: add check for w32threads to enable it automatically

rtmp: do not hardcode invoke numbers

Note: FCPublish/FCUnpublish are adobe server specific and not described
in the rtmp specification. Some servers might not cope with them at
all.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

cinepack: return non-generic errors

fate-lavf-ts: use -mpegts_transport_stream_id option.

Serves as a test of muxer private options.

Add an APIchanges entry and a minor bump for avio changes.

avio: Mark the old interrupt callback mechanism as deprecated

Prepare for removing it at an upcoming major bump.

avplay: Set the new interrupt callback

Signed-off-by: Anton Khirnov <anton@khirnov.net>

avconv: Set new interrupt callbacks for all AVFormatContexts, use avio_open2() everywhere

Signed-off-by: Anton Khirnov <anton@khirnov.net>

cinepak: remove redundant coordinate checks

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Martin Storsjö <martin@martin.st>

cinepak: check strip_size

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Martin Storsjö <martin@martin.st>

cinepak, simplify, use AV_RB24()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Martin Storsjö <martin@martin.st>

cinepak: simplify, use FFMIN()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Martin Storsjö <martin@martin.st>

cinepak: Fix division by zero, ask for sample if encoded_buf_size is 0

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
Signed-off-by: Martin Storsjö <martin@martin.st>

applehttp: Fix seeking in streams not starting at DTS=0

The Apple HTTP Live Streaming demuxer's implementation of
seeking searches for the MPEG TS segment which contains the
requested timestamp.  In its current implementation it assumes
that the first segment will start from 0.

But, MPEG TS streams do not necessarily start with timestamp
(near) 0, causing seeking to fail for those streams.

This also occurs when using live streaming of HTTP Live Streams.
In this case sliding playlists may be used, which means that in
that case only the last x encoded segments are stored, the earlier
segments get deleted from disk and removed from the playlist.
Because of this, when starting playback of a stream in the middle
of such a broadcast, the initial segment fetched after parsing
the m3u8 playlist will not start from timestamp (near) 0, causing
(the admittedly limited live) seeking to fail.

This patch changes this demuxers seeking implementation to use
the initial DTS as an offset for searching the segments containing
the requested timestamp.

Signed-off-by: Martin Storsjö <martin@martin.st>

http: Don't use the normal http proxy mechanism for https

The tls protocol handles connections via proxies internally.

With TLS/SSL, the peer verification requires that the client
speaks directly with the server, since the proxy doesn't have
the remote server's private key.

Signed-off-by: Martin Storsjö <martin@martin.st>

tls: Handle connection via a http proxy

Signed-off-by: Martin Storsjö <martin@martin.st>

http: Reorder two code blocks

This is in preparation for a later commit.

Signed-off-by: Martin Storsjö <martin@martin.st>

http: Add a new protocol for opening connections via http proxies

This opens a plain TCP connection through the proxy via the
CONNECT HTTP method. Normally, this is allowed for connections
on port 443, but can in general be used to allow connections
to any port (depending on proxy configuration), and could thus
be used to tunnel any TCP connection via a HTTP proxy.

Signed-off-by: Martin Storsjö <martin@martin.st>

http: Split out the non-chunked buffer reading part from http_read

This is in preparation for a later commit, where this function
is reused.

Signed-off-by: Martin Storsjö <martin@martin.st>

segafilm: add support for raw videos

Signed-off-by: Martin Storsjö <martin@martin.st>