Faster avg_weight assembly
Unrolling the loop a bit improves performance

Faster H asm intra prediction functions
Take advantage of the H prediction method invented for merged intra SAD and apply it to regular prediction, too.

Add merged SAD for i16x16 analysis
Roughly 30% faster i16x16 analysis under subme=1

Add sad_aligned for faster subme=1 mbcmp
Distinguish between unaligned and aligned uses of mbcmp
SAD_aligned, for MMX SADs, uses non-cacheline SADs.

Improve progress indicator
Show average bitrate so far during encoding
Decrease update interval for longer encodes (max of 10 frames encoded between updates)

Fix speed regression in r951
Row SATDs are only necessary in VBV mode, so don't need to be checked if VBV is off.

zigzag asm

fix SOFLAGS used when building gtk frontend
patch by Markus Kanet %darkvision A gmx P eu%

remove the distinction between itex and ptex
(changes 2pass statsfile format)

hardcode the ratecontrol equation, and remove the rceq option

Fix some uses of uninitialized row_satd values in VBV
Resolves some issues with QP51 in I-frames with scenecut

Activate trellis in p8x8 qpel RD
Also clean up macroblock.c with some refactoring
Note that this change significantly reduces subme7+trellis2 performance, but improves quality.
Issue originally reported by Alex_W.

Improve VBV accuracy
Don't use the previous frame's row SATD as a predictor if it is too different from this frame's row SATD.

improve generation of Darwin libraries
Patch by vmrsss %vmrsss A gmail P com%

Fix compilation in gcc 3.4.x (issue in r946)
Due to a bug in gcc 3.4.x, in certain cases of inlining, the array_non_zero_int_mmx inline asssembly is miscompiled and causes a crash with --subme 7 --8x8dct.
This minor hack fixes this issue.

shut up various gcc warnings

fix a crash with invalid args and --thread-input (introduced in r921)

drop support for x86_32 PIC.

use permute macros in satd
move some more shared macros to x264util.asm

cosmetics

r940 broke threads

Cleanups in macroblock_cache_save/load
A bit more loop unrolling, and moving some constant code to the global init function

Deblocking code cleanup and cosmetics
Convert the style of the deblocking code to the standard x264 style
Eliminate some trailing whitespace

4% faster deblock: special-case macroblock edges
Along with a bit of related code reorganization and macroification

Add dedicated variance function instead of using SAD+SSD
Faster variance calculation

6% faster deblock: remove some clips, earlier termiantion on low qps.

Faster deblocking
Early termination for bS=0, alpha=0, beta=0
Refactoring, various other optimizations
About 30% faster deblocking overall.

asm cosmetics

yet another posix-emulating define on solaris

update msvc projectfile

drop support for msvc6

Prevent VBV from lowering quantizer too much
This code seemed to act up unexpectedly sometimes, creating a situation where in 1-pass VBV mode, a frame's quantizer would drop all the way to qpmin and then shoot back upwards to qpmax, causing serious visual issues.
This change may decrease bitrate in VBV mode, but that is preferable to the artifacting produced by this code.

Improve subme7 at low QPs and add subme7 support in lossless mode

cosmetics: merge x86inc*.asm

Add missing x264util.asm

Basic sanity checking of qpmax/qpmin options

Fix regression in r922
set the chroma DC coefficients to zero for residual coding in qpel-rd
fix C99ism

Refactor asm macros part 2: DCT

Refactor asm macros part 1: DCT

Improve intra RD refine, speed up residual_write_cabac
a do/while loop can be used for residual_write, but i8x8 had to be fixed so that it wouldn't call residual_write with zero coeffs
proper nnz handling added to cabac intra rd refine
chroma cbp added to 8x8 chroma rd
cbp was tested, but wasn't useful

Fix a few more minor memleaks

stats summary: print distribution of numbers of consecutive B-frames

add interlacing to the list of stuff checked by x264_validate_levels

Fix C99-ism in r907

Faster temporal predictor calculation
Split into a separate commit because this changes rounding, and thus changes output slightly.

Align lowres planes for improved cacheline split performance

autodetect level based on resolution/bitrate/refs/etc, rather than defaulting to L5.1
if vbv is not enabled (and especially in crf/cqp), we have to guess max bitrate, so we might underestimate the required level.

fix bs_write_ue_big for values >= 0x10000.
(no immediate effect, since nothing writes such values yet)

Fix lossless mode borked in r901

Relax QPfile restrictions
Allow a QPfile to contain fewer frames than the total number of frames in the video and have ratecontrol fill in the rest.
Patch by kemuri9.

Limit MVrange correctly in interlaced mode
Bug report by Sigma Designs, Inc.

Fix bug with PCM and adaptive quantization
In rare cases CABAC desync could occur, causing bitstream corruption

Fix memory leak upon x264 closing
Doesn't affect the CLI, but potentially important for programs which call x264 as a shared library.

Fix compilation on PPC systems (borked in r903)
Bigendian systems didn't have endian_fix32 defined

Add L1 reflist and B macroblock types to x264 info
Also remove display of "PCM" if PCM mode is never used in the encode.
L1 reflist information will only show if pyramid coding is used.

Fix and enable I_PCM macroblock support
In RD mode, always consider PCM as a macroblock mode possibility
Fix bitstream writing for PCM blocks in CAVLC and CABAC, and a few other minor changes to make PCM work.
PCM macroblocks improve compression at very low QPs (1-5) and in lossless mode.

de-duplicate vlc tables

faster ue/se/te write

faster bs_write

cosmetics in ssd asm

Various optimizations and cosmetics
Update AUTHORS file with Gabriel and me
update XCHG macro to work correctly in if statements
Add new lookup tables for block_idx and fdec/fenc addresses
Slightly faster array_non_zero_count_mmx (patch by holger)
Eliminate branch in analyse_intra
Unroll loops in and clean up chroma encode
Convert some for loops to do/while loops for speed improvement
Do explicit write-combining on --me tesa mvsad_t struct
Shrink --me esa zero[] array
Speed up bime by reducing size of visited[][][] array

Resolve floating point exception with frame_init_lowres mmx
In some cases, the mmx version of frame_init_lowres could leave the FPU uninitialized for use in ratecontrol, resulting in floating point exceptions.
Since frame_init_lowres is such a time-consuming function, an emms was just put at the end, since it costs almost nothing compared to the total time of frame_init_lowres.

Update my email address

Update file headers throughout x264
Update "Authors" lists based on actual authorship; highest is most important
Update copyright notices and remove old CVS tags from file headers
Add file headers to GTK and other sections missing them
Update FSF address
Other header-related cosmetics

denoise_dct asm

cosmetics in permutation macros
SWAP can now take mmregs directly, rather than just their numbers

Fix bug in adaptive quantization
In some cases adaptive quantization did not correctly calculate the variance.
Bug reported by MasterNobody

lowres_init asm
rounding is changed for asm convenience. this makes the c version slower, but there's no way around that if all the implementations are to have the same results.

Optimizations and cosmetics in macroblock.c
If an i4x4 dct block has no coefficients, don't bother with dequant/zigzag/idct.  Not useful for larger sizes because the odds of an empty block are much lower.
Cosmetics in i16x16 to be more consistent with other similar functions.
Add an SSD threshold for chroma in probe_skip to improve speed and minimize time spent on chroma skip analysis.
Rename lambda arrays to lambda_tab for consistency.

some asm functions require aligned stack. disable these when compiling with msvc/icc.

Move bitstream end check to macroblock level
Additionally, instead of silently truncating the frame upon reaching the end of the buffer, reallocate a larger buffer instead.

Convert NNZ to raster order and other optimizations
Converting NNZ to raster order simplifies a lot of the load/store code and allows more use of write-combining.
More use of write-combining throughout load/save code in common/macroblock.c
GCC has aliasing issues in the case of stores to 8-bit heap-allocated arrays; dereferencing the pointer once avoids this problem and significantly increases performance.
More manual loop unrolling and such.
Move all packXtoY functions to macroblock.h so any function can use them.
Add pack8to32.
Minor optimizations to encoder/macroblock.c

mc_chroma_sse2/ssse3

checkasm --bench=function_name

interleave psnr/ssim computation with reference frame filtering, to improve cache coherency

Add more inline asm and a runtime check for MMXEXT support
x264 will now terminate gracefully rather than SIGILL when run on a machine with no MMXEXT support.
A configure option is now available to build x264 without assembly support for support on such old CPUs as the Pentium 2, K6, etc.

Use aligned memcpy for x264_me_t struct and cosmetics

Cosmetics and loop unrolling
GCC is not very good at loop unrolling in cases where it can perform constant propagation, so the unrolling unfortunately has to be done manually.

Fix regression in 64-bit in r882
i_mvc needs to be 64-bit when used with a 64-bit memory pointer

More tweaks to me.c
Added inline MMX version of UMH's predictor difference test
Various cosmetics throughout me.c
Removed a C99-ism introduced in r878.

Fix regression in r736
r736 added intra RD refinement to B-frames; however, it is possible for subme=7 to be used without b-rdo.
This means intra RD isn't run, and therefore it is possible for intra chroma analysis to not have been run, since update_cache was never called for an intra block, and chroma ME is not required even at subme=7.
r801, which removed a memset, made this worse because previously the chroma prediction mode was at least initialized to zero; now it was not initialized at all.
Therefore, --no-chroma-me, --subme 7, and no --b-rdo had the potential to crash.
This change restricts intra RD refinement to only be run when --b-rdo is enabled (sensible to begin with), thus preventing a crash in this case.

Fix regression in r850
Bug resulted in rare incorrect chroma encoding

Cosmetics in VBV handling

Tweaks and cosmetics in me.c
Use write-combining for predictor checking and other tweaks.

Partially inline trellis quantization
Inlining trellis into the 4x4/8x8 trellis wrappers increases trellis speed by about 5-10% through constant propagation.

Various cosmetic changes.

avg_weight_sse2

many changes to which asm functions are enabled on which cpus.
with Phenom, 3dnow is no longer equivalent to "sse2 is slow", so make a new flag for that.
some sse2 functions are useful only on Core2 and Phenom, so make a "sse2 is fast" flag for that.
some ssse3 instructions didn't become useful until Penryn, so yet another flag.
disable sse2 completely on Pentium M and Core1, because it's uniformly slower than mmx.
enable some sse2 functions on Athlon64 that always were faster and we just didn't notice.
remove mc_luma_sse3, because the only cpu that has lddqu (namely Pentium 4D) doesn't have "sse2 is fast".
don't print mmx1, sse1, nor 3dnow in the detected cpuflags, since we don't really have any such functions. likewise don't print sse3 unless it's used (Pentium 4D).

enable ssse3 phadd satd on Penryn.

benchmark most of the asm functions (checkasm --bench).

Cosmetic: fix C99-ism

Use a gaussian window for cplxblur
Cplxblur was originally intended to use a gaussian window, but in its current form did not.  This change provides a tiny improvement to 2pass ratecontrol.

cosmetics

nasm compatible NX stack

CQP is incompatible with AQ

memzero_aligned_mmx

binmode stdin on mingw, not just msvc

omit redundant mc after non-rdo dct size decision, and in b-direct rdo

allow fractional CRF values with AQ.

fix some uninitialized partitions in rdo