aarch64: pixel metrics NEON asm

Ported from the ARM NEON asm.

aarch64: add utility functions for asm

aarch64: add armv8 and neon cpu flags and test them

aarch64: initial build support

checkasm: test zigzag_sub_8x8_{frame,field}

arm: use long multiplication in mc_weight_w*_neon

9-19% faster on a cortex-a9.

arm: do not use aligned stores in mc_weight_w4_*neon

mc_weight_w4_*neon is also used for width 2 which does not guarantee
4-byte aligned destination. Fixes crashes caused by random memory
corruption.

checkasm: add memory clobber to read_time inline asm

The memory acts as compiler barrier preventing aggressive reordering
of read_time calls. gcc 4.8 reorders some of initial read_time calls
after the second when targeting arm.

arm: check if the assembler supports the '.func' directive

The integrated assembler in llvm trunk (to be released as 3.5) is
otherwise capable enough to assemble the arm asm correctly.

arm/ppc: use $CC as default assembler

arm: move instructions after '.rept' to separate line

The gas manual states "Repeat the sequence of lines between the .rept
directive and the next .endr directive ...". GNU as seems to support
instructions on the same line as .rept anyway but the integrated
assembler in llvm trunk (to be released 3.5 in August 2014) does not.

arm: set .arch/.fpu from asm.S

arm: do not append CFLAGS to ASFLAGS

filters: fix sizeof mismatch

Fix memory leak when using select_every filter

Fix cltostr.sh on OS X

Check pf_log is set in validate_parameters

Help remind people to call x264_param_default in case they didn't read the
documentation.

Check malloc during frame dumping

mp4_lsmash: Use new I/O API instead of deprecated one.

Remove meaningless use of abs()

MSVS 2013 Update 2 support

The first MSVS compiler C99 compliant enough to build x264.
Use `CC=cl ./configure` to compile with it.

configure: Add -Wno-maybe-uninitialized to CFLAGS

The warnings generated by -Wmaybe-uninitialized are mostly spurious.

build: Replace cltostr.pl by a shell script

This avoids a dependency on Perl to build OpenCL support.

build: Simplify phony target declaration with wildcards

Also add etags to list of phony targets.

configure: Drop workaround for obsolete gcc 4.2 on ARM

build: Add dependencies on x86inc.asm/x86util.asm for all .asm files

This is a little bit overzealous, but errs on the side of caution.
Generating full dependency information is also possible, but slightly
slows down the build as YASM cannot do it as a sideeffect of compilation.

Delete all SPARC optimizations

SPARC has been obsolete for a long time and makes little sense as a
H.264 encoding platform.

Also update authors file.

configure: Don't check for libavcore

libavcore was a never-released bad idea with a short lifespan.

build: Set all ASFLAGS from within configure

This is how all other toolchain flags are handled.

opencl: Check return value of fread()

common/opencl.c:138:10: warning: ignoring return value of 'fread', declared with attribute warn_unused_result [-Wunused-result]

Disable i8x8 in lossless

x264's implementation was slightly incorrect due to a vague spec, so some
decoders decoded video incorrectly.

Minimal impact on compression.

AVC-Intra: fix compatibility with Avid Transfermanager

x86: Fix SIGILL in high bit-depth intra_sad_x3_4x4_sse2

An SSE3 instruction was used in an SSE2 function.

Fix incorrect row predictor addressing

Somehow managed to not cause things to explode, but was clearly incorrect.
Might improve VBV in some cases to have this working right.

Fix b-pyramid MMCO remove for frame-packing==5

Fix frame-packing==5 with some decoders

The spec mandates that frame-packing==5 requires the SEI on every frame that
begins a view sequence (i.e. the input frames L0-R0-L1-R1 have 4 view sequences,
but if reordered by the encoder to L0-L1-R0-R1 there are now 2 view sequences).
For simplicity, we write the SEI on every frame.

This fixes frame-packing==5 3D playback on some decoders (PlayStation 3, Sony
W8 series, possibly others).

Fix pixel_ssim_end4 asm function for x86_64 systems

x86: XOP pixel_sad_{x3, x4} high bit-depth

x86: XOP pixel_ssd_nv12_core

x86util: XOP optimized HADDD

x86: add missing initialization for high bit-depth sa8d_satd

x86: add missing initializations for high bit-depth variance

arm: use the weight_fn_t typedef for mc weight function arrays

arm: correct x264_mc_chroma_neon function declaration

arm: do not export every asm function

Based on Libav's libavutil/arm/asm.S. Also prevents having the same
label twice for every function on systems not defining EXTERN_ASM.
Clang's integrated assembler does not like it.

arm: move all .macro/.endm to column 0

aarch64: require PIC in shared mode

arm: x264_coeff_last8_arm

checkasm --bench on a coretex-a9:
coeff_last8_c: 173
coeff_last8_armv6: 151

60 instead of 73 cycles in ~130k runs on the same cpu while encoding.

arm: x264_store_interleave_chroma_neon

store_interleave_chroma_c: 4036
store_interleave_chroma_neon: 1043

arm: x264_plane_copy_interleave_neon

plane_copy_interleave_c: 40285
plane_copy_interleave_neon: 10137

arm: x264_plane_copy_deinterleave_rgb_neon

plane_copy_deinterleave_rgb_c: 31543
plane_copy_deinterleave_rgb_neon: 8312

arm: load_deinterleave_chroma_f{dec,enc}_neon

load_deinterleave_chroma_fdec_c: 4055
load_deinterleave_chroma_fdec_neon: 995
load_deinterleave_chroma_fenc_c: 4071
load_deinterleave_chroma_fenc_neon: 992

arm: x264_plane_copy_deinterleave_neon

plane_copy_deinterleave_c: 42988
plane_copy_deinterleave_neon: 10184

arm: implement deblock_strength_neon

Based on deblock_strength_avx.

checkasm --bench on a cortex-a9:
deblock_strength_c: 14611
deblock_strength_neon: 1848

arm: add missing macro instantiation for x264_pixel_avg_4x16_neon

checkasm --bench on a cortex-a9:
avg_4x16_c: 8910
avg_4x16_neon: 2091

arm: implement x264_predict_4x4_v_armv6

Alone probably not worth it but allows use of predict_4x4_dc|h_armv6
in intra_sad|satd_x3_4x4_neon.

ppc: fix build on certain PowerPC variants without Altivec

Only add strip option '-s' for linker flags

Fixes some build warnings with clang.

configure: remove an unnecessary option from CFLAGS on OS X

Fixes Clang 3.4 compilation on OS X.

Macroblock tree overhaul/optimization

Move the second core part of macroblock tree into an assembly function;
SIMD-optimize roughly half of it (for x86). Roughly ~25-65% faster mbtree,
depending on content.

Slightly change how mbtree handles the tradeoff between range and precision
for propagation.

Overall a slight (but mostly negligible) effect on SSIM and ~2% faster.

arm: use available neon functions for intra_sa8d/sad/satd_x3

4% faster on main/medium, 15% faster on baseline/superfast on a cortex-a9.

arm: implement x264_pixel_var2_8x16_neon

checkasm --bench on a cortex-a9:
var2_8x16_c: 5677
var2_8x16_neon: 1421

arm: implement x264_pixel_var_8x16_neon

checkasm --bench on a cortex-a9:
var_8x16_c: 4306
var_8x16_neon: 791

x86: SSE2 and SSSE3 plane_copy_deinterleave_rgb

About 5.6x faster than C on Haswell.

x86: Minor mbtree_propagate_cost improvements

Reduce the number of registers used from 7 to 6.
Reduce the number of vector registers used by the AVX2 implementation from 8 to 7.
Multiply fps_factor by 1/256 once per frame instead of once per macroblock row.
Use mova instead of movu for dst since it's guaranteed to be aligned.
Some cosmetics.

x86inc: Support arbitrary stack alignments

If the stack is known to be at least 32-byte aligned we can safely store ymm
registers on the stack without doing manual alignment.

Change ALLOC_STACK to always align the stack before allocating stack space for
consistency. Previously alignment would occur either before or after allocating
stack space depending on whether manual alignment was required or not.

x86inc: warn if XOP integer FMA instruction emulation is impossible

Emulation requires a temporary register if arguments 1 and 4 are the same; this
doesn't obey the semantics of the original instruction, so we can't emulate
that in x86inc.

ffmpeg has an x86util emulation for that case; I'll add it if x264's asm ever
needs it.

Also add pmacsdql emulation.

x86inc: free up variable name "n" in global namespace

x86: Pass -Worphan-labels to yasm

Makes it easier to detect typos.

Write 3D metadata when outputting Matroska

For when --frame-packing is set.

Don't set chroma_loc_info_present_flag for non-4:2:0

The H.264 spec says it shouldn't be set in these cases.

x264.h: fix documentation

The full details of the return values of encoder_encode and encoder_headers
were mistakenly removed a while ago; re-add them.

Fix pointer cast warning for 64-bit builds

mbaff: fix mb_field_decoding_flag tracking and simplify allow skip check

Fixes an issue with too many forced non-skips in mbaff+cavlc, as well as
non-deterministic output with mbaff+cavlc+sliced-threads.

Fix memory overwrite in x264_deblock_h_chroma_mbaff_sse2

Fixes possible corruption with MBAFF+sliced threads.

Fix corruption with CAVLC overflow handling in MBAFF+main profile

Probably a regression in r2178.

Fix checkasm --bench output when nop_cycles is too large

Really fix quantization factor allocation

Actually allocate less (instead of just initialize less) and fix comments.

Fix build with Android NDK

Android NDK does not expose sched_getaffinity.

x86inc: speed up compilation with yasm

Work around yasm's inefficiency with handling large numbers of variables
in the global scope.

Add support for AVC-Intra Class 200

v210 input support

Assembly based on code by Henrik Gramner and Loren Merritt.

Fix quantization factor allocation

We don't need to wastefully allocate quant tables above QP_MAX_SPEC; they're
never used.

Avoid some unneccesary memory loads in macroblock_encode

Bump dates to 2014

Also update AUTHORS file and my e-mail address in the headers of various files.

Remove tools/xyuv.c

It's an old stand-alone application that isn't relevant to x264.

Use 8x16c wrappers with x86 asm functions for 4:2:2 with high bit depth

CLI: Avoid redundant 16-bit upconversions in piped raw input

It's not possible to seek in pipes, so if we want to skip frames we have to read and
discard unused ones. It's pointless to do bit-depth upconversions in those frames.

Fix input support from named pipes in Windows

Fix ARM asm compilation with Apple assembler

Fix uninitialized variable

Caused if the timebase is not specified in stats file. Found by Clang.

Remove --visualize option.

It probably wasn't used or maintained for last few years.

Add L-SMASH support as preferable alternative for MP4-muxing

Add AVC-Intra 1080p50/60 Class 100 parameters

Also add some compatibility fixes.

Add --filler option

Allows generation of hard-CBR streams without using NAL HRD.
Useful if you want to be able to reconfigure the bitrate (which you can't do
with NAL HRD on).

Make x264_encoder_reconfig more threadsafe

Do the reconfig when the next frame's encode begins.
Fixes some rare crashes with frame-threading and encoder_reconfig.

chroma-me: take shortcut in BI analysis

~100 cycles faster with subme>=9

CRF-max: don't warn if VBV underflow occurs

Only warn if underflow occurs for reasons other than CRF-max, as CRF-max
implies that VBV underflow is desired by the user.

x86inc: Make ym# behave the same way as xm#

This makes more sense for future implementations of templates with zmm registers.

Use calloc instead of malloc + memset