RELEASE: set to 0.8.4.git after the release from 2011-09-22

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

j2kenc: enable 4:2:0 YUV it works as "well" as the other subsampled yuv formats

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

build system: enable j2kenc

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

j2kenc: fix coded_frame and prevent null pointer dereference.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

j2kenc: Update ff_j2k_init_component() arguments

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

j2kenc: fix arguments for ff_j2k_getnbctxno()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

j2kenc: mark as experimental.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

j2kenc: s/CODEC_TYPE_VIDEO/AVMEDIA_TYPE_VIDEO/

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

j2kenc: update codec name to modern ffmpeg

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

j2kenc: cleanup() is not used outside thus it is static

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

j2kenc: update function name.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mxfdec: Consider QuantizationBits between 17 and 24 to be pcm_s24*

This fixes playback of BRD38772509.mxf

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Check for out of bound writes when building tree in bink decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Check for various out of bound writes in the bink decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

swfdec: return correct error code at EOF

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ffmpeg: fix typo in warning

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge remote-tracking branch 'qatar/master'

* qatar/master: (21 commits)
  fate: allow testing with libavfilter disabled
  x86: XOP/FMA4 CPU detection support
  ws_snd: misc cosmetic clean-ups
  ws_snd: remove the 2-bit ADPCM table and just subtract 2 instead.
  ws_snd: use memcpy() and memset() instead of loops
  ws_snd: use samples pointer for loop termination instead of a separate iterator variable.
  ws_snd: make sure number of channels is 1
  ws_snd: add some checks to prevent buffer overread or overwrite.
  ws_snd: decode to AV_SAMPLE_FMT_U8 instead of S16.
  flacdec: fix buffer size checking in get_metadata_size()
  rtp: Simplify ff_rtp_get_payload_type
  rtpenc: Add a payload type private option
  rtp: Correct ff_rtp_get_payload_type documentation
  avconv: replace all fprintf() by av_log().
  avconv: change av_log verbosity from ERROR to FATAL for fatal errors.
  cmdutils: replace fprintf() by av_log()
  avtools: parse loglevel before all the other options.
  oggdec: add support for Xiph's CELT codec
  sol: return error if av_get_packet() fails.
  cosmetics: reindent and pretty-print
  ...

Conflicts:
avconv.c
cmdutils.c
libavcodec/avcodec.h
libavcodec/version.h
libavformat/oggparsecelt.c
libavformat/utils.c
libavutil/avutil.h

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Reset internal state on corrupted blocks in wavpack decoder.

wavpack_decode_block() supposes that it is called back with the exact
same buffer unless it has returned with an error. With multi-channels
files, wavpack_decode_frame() was breaking this assumption.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Validate the number of audio channels before using it in wmapro decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

fate: allow testing with libavfilter disabled

This declares dependencies to skip tests using libavfilter
when it is disabled.

Signed-off-by: Mans Rullgard <mans@mansr.com>

x86: XOP/FMA4 CPU detection support

ws_snd: misc cosmetic clean-ups

ws_snd: remove the 2-bit ADPCM table and just subtract 2 instead.

ws_snd: use memcpy() and memset() instead of loops

ws_snd: use samples pointer for loop termination instead of a separate
iterator variable.

ws_snd: make sure number of channels is 1

ffmpeg: document alternative to the lossless libx264 presets

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

remove libx264 lossless presets

It is simpler and more consistent to use "-preset $speed -qp 0" for
lossless. Also, the old presets encode slower.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

ws_snd: add some checks to prevent buffer overread or overwrite.

ws_snd: decode to AV_SAMPLE_FMT_U8 instead of S16.

8-bit unsigned is the native sample format.

flacdec: fix buffer size checking in get_metadata_size()

Adds an additional check before reading the next block header and avoids a
potential integer overflow when checking the metadata size against the
remaining buffer size.

ffmpeg: fix -b -ab mixes with -b overriding the audio bitrate

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

rtp: Simplify ff_rtp_get_payload_type

Signed-off-by: Martin Storsjö <martin@martin.st>

rtpenc: Add a payload type private option

Specifying the payload type is useful when the type number has
already been negotiated before creating the stream, for example
in SIP protocol.

Signed-off-by: Martin Storsjö <martin@martin.st>

rtp: Correct ff_rtp_get_payload_type documentation

Since 0c378ea1f, it can't fail anymore.

Signed-off-by: Martin Storsjö <martin@martin.st>

avconv: replace all fprintf() by av_log().

Deprecate -v option, now only -loglevel is enough.

avconv: change av_log verbosity from ERROR to FATAL for fatal errors.

cmdutils: replace fprintf() by av_log()

This way, all messages can be easily disabled with -loglevel.

Behavior change -- configuration is printed with AV_LOG_VERBOSE, so it's
not shown by default.

avtools: parse loglevel before all the other options.

This way it can be applied to cmdutils too -- e.g. showing the banner
and printing startup messages.

libx264: free x4->sei

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fix a buffer overflow in libx264 interface to x264 encoder. Previous code ignored the compressed buffer size passed in. This change returns as many complete NALs as can fit in the buffer, and logs an error message.

Signed-off-by: Mike Scheutzow <mike.scheutzow@alcatel-lucent.com>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

oggdec: add support for Xiph's CELT codec

This patch also introduces CODEC_ID_CELT.

Signed-off-by: Nicolas George <nicolas.george@normalesup.org>
Signed-off-by: Diego Biurrun <diego@biurrun.de>

libaac+ support

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mjpegenc: use named struct initializers

act: correct file description comment

act, bintext, wtvenc: use named struct initializers

h264dec: fix decoding problems introduced with baad01d8b4bfe63c7c4e571ed553f7845d78d9c0.
This affected cases where extradata was not set.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Merge remote-tracking branch 'qatar/master'

* qatar/master:
  ppc: fix some pointer to integer casts
  ppc: fix 32-bit PIC build
  vmdaudio: fix decoding of 16-bit audio format.
  lavf: do not set codec_tag for rawvideo
  h264: check for out of bounds reads in ff_h264_decode_extradata().
  flvdec: Check for overflow before allocating arrays
  avconv: use correct output stream index when checking max_frames
  avconv: remove fake coded_frame on streamcopy hack

Conflicts:
avconv.c
libavcodec/h264.c
libavcodec/ppc/asm.S
libavcodec/vmdav.c
libavformat/flvdec.c
libavformat/utils.c

Merged-by: Michael Niedermayer <michaelni@gmx.at>

Check for out of bound bands limit in mpc v8 decoder.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fix return value on EOF in mpc v8 demuxer.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

id3v2: Fix some (function) pointer types.

Signed-off-by: Reimar Döffinger <Reimar.Doeffinger@gmx.de>
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

Fixed NULL pointer dereference in id3v2 parser.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

g729dec: avoid unnecessary struct copying

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

g729dec: remove useless headers

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

sol: return error if av_get_packet() fails.

This prevents sending a packet with data=NULL size=AVERROR_EOF.

vf_drawtext: apply misc style fixes

vf_drawtext: do not reset "n" variable to 0 in case the filter is reinited

ffmpeg: improve feedback when processing filtergraph events

ffmpeg: apply misc cosmetics fixes in the filtergraph event processing code

In particular provides more consistent and expressive names,
supposedly improves readability and user feedback.

lavfi: add debug trace when processing events

lavfi: document AVFilterCommand fields

g729dec: fix warnings:

libavcodec/g729postfilter.c: In function ‘long_term_filter’:
libavcodec/g729postfilter.c:114: warning: unused variable ‘n’

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

g729dec: Fix warnings:

libavcodec/g729dec.c: In function ‘decode_frame’:
libavcodec/g729dec.c:662: warning: passing argument 3 of ‘ff_g729_postfilter’ from incompatible pointer type
libavcodec/g729postfilter.h:96: note: expected ‘int16_t *’ but argument is of type ‘int *’

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

g729dec: Add ff_ prefix to g729_postfilter() and g729_adaptive_gain_control()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

cosmetics: reindent and pretty-print

libgsm: split init and close fuctions for encoder and decoder.

The decoder shouldn't be allocating coded_frame. It's also cleaner to split
them than to check avctx->codec->encode and avctx->codec->decode.

ppc: fix some pointer to integer casts

Use uintptr_t instead of plain int.  Without this change, the
comparisons will come out wrong for pointers in certain ranges.
Fixes random failures on ppc64.  Also fixes some compiler warnings.

Signed-off-by: Mans Rullgard <mans@mansr.com>

ppc: fix 32-bit PIC build

On 32-bit ppc, the GOT pointer must be loaded manually.
This adds a "get_got" assembler macro to compute the
GOT address.  The "movrel" macro is updated to take an
additional parameter containing the GOT address since
no register is reserved for this purpose on ppc32.
These changes have no effect on ppc64 builds.

Signed-off-by: Mans Rullgard <mans@mansr.com>

G.729 decoding is supported.

AMV encoding is supported.

Support LZW and ZLIB compressed 4bpp tiff samples.

Fixes ticket #439 and ticket #440.

h264: improve checks before calling ff_h264_decode_extradata

  The ff_h264_decode_extradata routine now checks for the buffer size
and pointer internally. This makes it possible to remove the external
checks in ff_h264_decode_init.

  In decode_frame there was a size check missing because the buffer
gets tested prior to the invocation of ff_h264_decode_extradata().

Signed-off-by: Alexander Strasser <eclipse7@gmx.net>

h264: ff_h264_decode_extradata: check buffer args

  The buffer size and pointer were not checked prior to testing the first
byte of the buffer. These were sometimes checked before calling, but it is
better to add it inside the function as it takes buf and size arguments.

Signed-off-by: Alexander Strasser <eclipse7@gmx.net>

Compile x86/swscale_template with -mno-red-zone.

Replaces a very hackish hack to fix the same issue (call instruction
overwriting stack variables).

Signed-off-by: Reimar Döffinger <Reimar.Doeffinger@gmx.de>

ffmpeg: increase bit_buffer_size, the header size is clearly too small for rgb48 raw based formats

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

cosmetics, remove unused and rename variables for consistency

vmdaudio: fix decoding of 16-bit audio format.

The initial sample of each block is raw 16-bit PCM, not DPCM.
Fixes decoding of all samples in:
http://streams.videolan.org/samples/game-formats/sierra-vmd/Lighthouse/

tiffenc: Enable RGB48LE (16-bit) encoding support

tiffdec: add RGB48 (16bit) support

lavf: do not set codec_tag for rawvideo

If the demuxer did not set a codec_tag, there is none and
inventing one makes no sense.  This change stops the rawvideo
"decoder" over-writing user-supplied pixfmt with one derived
from the codec_tag.  The pixfmt-codec_tag-pixfmt round-trip
is lossy since several pixfmts map to the same codec_tag.

This fixes fate-lavf-pixfmt with avfilter disabled.

Signed-off-by: Mans Rullgard <mans@mansr.com>

h264: check for out of bounds reads in ff_h264_decode_extradata().

Signed-off-by: Anton Khirnov <anton@khirnov.net>

dnxhdenc: remove unneeded entries from array.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

dnxhdenc: optimize whats left of dnxhd_switch_matrix()

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

bit: remove more unused variables

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

bit: use AVERROR_INVALIDDATA

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

regtests: amv video encoder test

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

amvenc: another quant table fix

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

mpegvideo: support encoding with chroma intra tables that differ from luma.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

flvdec: Check for overflow before allocating arrays

On allocation, the array length is multiplied by sizeof(int64_t),
this prevents the multiplication from overflowing.

Signed-off-by: Martin Storsjö <martin@martin.st>

lavf/utils: replace deprecated url_ferror.

lavf/utils: use correct format string for int64_t.

lavf/utils: use AV_NOWARN_DEPRECATED in compatibility code.

lavu/attributes: introduce AV_NOWARN_DEPRECATED.

bit: use explicit struct initializers.

avconv: use correct output stream index when checking max_frames

avconv: remove fake coded_frame on streamcopy hack

Back in 2002 when it was added, some muxers used information from
coded_frame. It's not true anymore, so this hack is useless and can be
removed.

bit: remove unused variable

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

bit: set AVPacket.pos

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

bit: loose seekback & wrong bitrate code.

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>

bit: rewrite probe

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>