Add missing x264util.asm

Basic sanity checking of qpmax/qpmin options

Fix regression in r922
set the chroma DC coefficients to zero for residual coding in qpel-rd
fix C99ism

Refactor asm macros part 2: DCT

Refactor asm macros part 1: DCT

Improve intra RD refine, speed up residual_write_cabac
a do/while loop can be used for residual_write, but i8x8 had to be fixed so that it wouldn't call residual_write with zero coeffs
proper nnz handling added to cabac intra rd refine
chroma cbp added to 8x8 chroma rd
cbp was tested, but wasn't useful

Fix a few more minor memleaks

stats summary: print distribution of numbers of consecutive B-frames

add interlacing to the list of stuff checked by x264_validate_levels

Fix C99-ism in r907

Faster temporal predictor calculation
Split into a separate commit because this changes rounding, and thus changes output slightly.

Align lowres planes for improved cacheline split performance

autodetect level based on resolution/bitrate/refs/etc, rather than defaulting to L5.1
if vbv is not enabled (and especially in crf/cqp), we have to guess max bitrate, so we might underestimate the required level.

fix bs_write_ue_big for values >= 0x10000.
(no immediate effect, since nothing writes such values yet)

Fix lossless mode borked in r901

Relax QPfile restrictions
Allow a QPfile to contain fewer frames than the total number of frames in the video and have ratecontrol fill in the rest.
Patch by kemuri9.

Limit MVrange correctly in interlaced mode
Bug report by Sigma Designs, Inc.

Fix bug with PCM and adaptive quantization
In rare cases CABAC desync could occur, causing bitstream corruption

Fix memory leak upon x264 closing
Doesn't affect the CLI, but potentially important for programs which call x264 as a shared library.

Fix compilation on PPC systems (borked in r903)
Bigendian systems didn't have endian_fix32 defined

Add L1 reflist and B macroblock types to x264 info
Also remove display of "PCM" if PCM mode is never used in the encode.
L1 reflist information will only show if pyramid coding is used.

Fix and enable I_PCM macroblock support
In RD mode, always consider PCM as a macroblock mode possibility
Fix bitstream writing for PCM blocks in CAVLC and CABAC, and a few other minor changes to make PCM work.
PCM macroblocks improve compression at very low QPs (1-5) and in lossless mode.

de-duplicate vlc tables

faster ue/se/te write

faster bs_write

cosmetics in ssd asm

Various optimizations and cosmetics
Update AUTHORS file with Gabriel and me
update XCHG macro to work correctly in if statements
Add new lookup tables for block_idx and fdec/fenc addresses
Slightly faster array_non_zero_count_mmx (patch by holger)
Eliminate branch in analyse_intra
Unroll loops in and clean up chroma encode
Convert some for loops to do/while loops for speed improvement
Do explicit write-combining on --me tesa mvsad_t struct
Shrink --me esa zero[] array
Speed up bime by reducing size of visited[][][] array

Resolve floating point exception with frame_init_lowres mmx
In some cases, the mmx version of frame_init_lowres could leave the FPU uninitialized for use in ratecontrol, resulting in floating point exceptions.
Since frame_init_lowres is such a time-consuming function, an emms was just put at the end, since it costs almost nothing compared to the total time of frame_init_lowres.

Update my email address

Update file headers throughout x264
Update "Authors" lists based on actual authorship; highest is most important
Update copyright notices and remove old CVS tags from file headers
Add file headers to GTK and other sections missing them
Update FSF address
Other header-related cosmetics

denoise_dct asm

cosmetics in permutation macros
SWAP can now take mmregs directly, rather than just their numbers

Fix bug in adaptive quantization
In some cases adaptive quantization did not correctly calculate the variance.
Bug reported by MasterNobody

lowres_init asm
rounding is changed for asm convenience. this makes the c version slower, but there's no way around that if all the implementations are to have the same results.

Optimizations and cosmetics in macroblock.c
If an i4x4 dct block has no coefficients, don't bother with dequant/zigzag/idct.  Not useful for larger sizes because the odds of an empty block are much lower.
Cosmetics in i16x16 to be more consistent with other similar functions.
Add an SSD threshold for chroma in probe_skip to improve speed and minimize time spent on chroma skip analysis.
Rename lambda arrays to lambda_tab for consistency.

some asm functions require aligned stack. disable these when compiling with msvc/icc.

Move bitstream end check to macroblock level
Additionally, instead of silently truncating the frame upon reaching the end of the buffer, reallocate a larger buffer instead.

Convert NNZ to raster order and other optimizations
Converting NNZ to raster order simplifies a lot of the load/store code and allows more use of write-combining.
More use of write-combining throughout load/save code in common/macroblock.c
GCC has aliasing issues in the case of stores to 8-bit heap-allocated arrays; dereferencing the pointer once avoids this problem and significantly increases performance.
More manual loop unrolling and such.
Move all packXtoY functions to macroblock.h so any function can use them.
Add pack8to32.
Minor optimizations to encoder/macroblock.c

mc_chroma_sse2/ssse3

checkasm --bench=function_name

interleave psnr/ssim computation with reference frame filtering, to improve cache coherency

Add more inline asm and a runtime check for MMXEXT support
x264 will now terminate gracefully rather than SIGILL when run on a machine with no MMXEXT support.
A configure option is now available to build x264 without assembly support for support on such old CPUs as the Pentium 2, K6, etc.

Use aligned memcpy for x264_me_t struct and cosmetics

Cosmetics and loop unrolling
GCC is not very good at loop unrolling in cases where it can perform constant propagation, so the unrolling unfortunately has to be done manually.

Fix regression in 64-bit in r882
i_mvc needs to be 64-bit when used with a 64-bit memory pointer

More tweaks to me.c
Added inline MMX version of UMH's predictor difference test
Various cosmetics throughout me.c
Removed a C99-ism introduced in r878.

Fix regression in r736
r736 added intra RD refinement to B-frames; however, it is possible for subme=7 to be used without b-rdo.
This means intra RD isn't run, and therefore it is possible for intra chroma analysis to not have been run, since update_cache was never called for an intra block, and chroma ME is not required even at subme=7.
r801, which removed a memset, made this worse because previously the chroma prediction mode was at least initialized to zero; now it was not initialized at all.
Therefore, --no-chroma-me, --subme 7, and no --b-rdo had the potential to crash.
This change restricts intra RD refinement to only be run when --b-rdo is enabled (sensible to begin with), thus preventing a crash in this case.

Fix regression in r850
Bug resulted in rare incorrect chroma encoding

Cosmetics in VBV handling

Tweaks and cosmetics in me.c
Use write-combining for predictor checking and other tweaks.

Partially inline trellis quantization
Inlining trellis into the 4x4/8x8 trellis wrappers increases trellis speed by about 5-10% through constant propagation.

Various cosmetic changes.

avg_weight_sse2

many changes to which asm functions are enabled on which cpus.
with Phenom, 3dnow is no longer equivalent to "sse2 is slow", so make a new flag for that.
some sse2 functions are useful only on Core2 and Phenom, so make a "sse2 is fast" flag for that.
some ssse3 instructions didn't become useful until Penryn, so yet another flag.
disable sse2 completely on Pentium M and Core1, because it's uniformly slower than mmx.
enable some sse2 functions on Athlon64 that always were faster and we just didn't notice.
remove mc_luma_sse3, because the only cpu that has lddqu (namely Pentium 4D) doesn't have "sse2 is fast".
don't print mmx1, sse1, nor 3dnow in the detected cpuflags, since we don't really have any such functions. likewise don't print sse3 unless it's used (Pentium 4D).

enable ssse3 phadd satd on Penryn.

benchmark most of the asm functions (checkasm --bench).

Cosmetic: fix C99-ism

Use a gaussian window for cplxblur
Cplxblur was originally intended to use a gaussian window, but in its current form did not.  This change provides a tiny improvement to 2pass ratecontrol.

cosmetics

nasm compatible NX stack

CQP is incompatible with AQ

memzero_aligned_mmx

binmode stdin on mingw, not just msvc

omit redundant mc after non-rdo dct size decision, and in b-direct rdo

allow fractional CRF values with AQ.

fix some uninitialized partitions in rdo

2-pass VBV support and improved VBV handling
Dramatically improves 1-pass VBV ratecontrol (especially CBR) and provides support for VBV in 2-pass mode.  This consists of a series of functions that attempts to find overflows and underflows in the VBV from the first-pass statsfile and fix them before encoding.
1-pass VBV code partially by Fiona Glaser.

Fix noise reduction in threaded mode.
Previously enabling noise reduction with threads had no effect.
Note that this is not an optimal solution; each thread still tracks noise reducation separately (unlike in single-threaded mode).

fix a crash on win32 with threads.
r852 introduced an assumption in deblock that the stack is aligned.

remove nasm version check. a feature check is all that's needed.
silence stderr in yasm version check.

cosmetics in cabac

faster residual_write_cabac

change DEBUG_DUMP_FRAME to run-time --dump-yuv

x264_median_mv_mmxext
this is the first non-runtime-detected use of mmxext, but it has to be inlined

factor duplicated code out of deblock chroma mmx

deblock_luma_intra_mmx

write aspect ratio in mp4

omit delta_quant in i16x16 blocks with no residual
(all other block types were already covered, but i16x16 cbp is special)

explicit write combining, because gcc fails at optimizing consecutive memory accesses

force unroll macroblock_load_pic_pointers
and a few other minor optimizations

quant_2x2_dc_ssse3

r836 borked lossless cabac nnz

use elf instead of a.out on netbsd

fix x264_realloc when not using libc realloc.

don't pretend to support win64. remove all related code.
it hasn't worked since probably some time in 2005, and won't ever be fixed unless someone steps up to maintain it.

cosmetics: replace last instances of parm# asm macros with r#

remove DEBUG_BENCHMARK

faster probe_skip

drop support for pre-SSE3 assemblers

s/x264_cpu_restore/x264_emms/
no point in giving it a generic name when it's not generic

faster cabac_mb_cbp_luma
ported from ffmpeg

remove some redundant nnz counts
move some nnz counts from macroblock_encode to cavlc if cabac doesn't need them

compute missing nnz count in subme7 cavlc

remove a division in macroblock-level bookkeeping

omit P/B-skip mc from macroblock_encode if the pixels haven't been overwritten since probe_skip

earlier termination in SEA if mvcost exceeds residual

remove void* arithmetic from r821

Fix define of illegal function identifiers (as defined in section "7.1.3 Reserved identiers" of C99 spec)

Fix define of illegal identifier (as defined in section "7.1.3 Reserved identiers" of C99 spec) "__UNUSED__", and use the one defined in common/osdep.h, i.e. "UNUSED"
based on a patch by Diego Biurrun

more consistent include name (in line with other PPC includes)