/*****************************************************************************
* mc.S: arm motion compensation
*****************************************************************************
- * Copyright (C) 2009-2014 x264 project
+ * Copyright (C) 2009-2015 x264 project
*
* Authors: David Conrad <lessen42@gmail.com>
* Mans Rullgard <mans@mansr.com>
#include "asm.S"
-.fpu neon
.text
// note: prefetch stuff assumes 64-byte cacheline, true for the Cortex-A8
pld [r3, r1, lsl #1]
pld [r3, r2]
bx lr
-.endfunc
+endfunc
// void prefetch_fenc( uint8_t *pix_y, intptr_t stride_y,
// uint8_t *pix_uv, intptr_t stride_uv, int mb_x )
pld [ip]
pld [ip, r3]
pop {pc}
-.endfunc
+endfunc
// void *x264_memcpy_aligned( void *dst, const void *src, size_t n )
movrel ip, memcpy_table
and r3, r3, #0xc
ldr pc, [ip, r3]
-.endfunc
+endfunc
.macro MEMCPY_ALIGNED srcalign dstalign
-function memcpy_aligned_\dstalign\()_\srcalign\()_neon
+function memcpy_aligned_\dstalign\()_\srcalign\()_neon, export=0
mov r3, r0
.if \srcalign == 8 && \dstalign == 8
sub r2, #16
vst1.64 {d0}, [r3,:64]!
.endif
bx lr
-.endfunc
+endfunc
.endm
MEMCPY_ALIGNED 16, 16
.endr
bgt memzero_loop
bx lr
-.endfunc
+endfunc
// void pixel_avg( uint8_t *dst, intptr_t dst_stride,
cmp ip, #0
bge x264_pixel_avg_weight_w\w\()_add_add_neon
b x264_pixel_avg_weight_w\w\()_sub_add_neon // weight < 0
-.endfunc
+endfunc
.endm
AVGH 4, 2
.endm
.macro AVG_WEIGHT ext
-function x264_pixel_avg_weight_w4_\ext\()_neon
+function x264_pixel_avg_weight_w4_\ext\()_neon, export=0
load_weights_\ext
1: // height loop
subs lr, lr, #2
vst1.32 {d1[0]}, [r0,:32], r1
bgt 1b
pop {r4-r6,pc}
-.endfunc
+endfunc
-function x264_pixel_avg_weight_w8_\ext\()_neon
+function x264_pixel_avg_weight_w8_\ext\()_neon, export=0
load_weights_\ext
1: // height loop
subs lr, lr, #4
vst1.64 {d3}, [r0,:64], r1
bgt 1b
pop {r4-r6,pc}
-.endfunc
+endfunc
-function x264_pixel_avg_weight_w16_\ext\()_neon
+function x264_pixel_avg_weight_w16_\ext\()_neon, export=0
load_weights_\ext
1: // height loop
subs lr, lr, #2
vst1.64 {d2-d3}, [r0,:128], r1
bgt 1b
pop {r4-r6,pc}
-.endfunc
+endfunc
.endm
AVG_WEIGHT add_add
AVG_WEIGHT add_sub
AVG_WEIGHT sub_add
-function x264_pixel_avg_w4_neon
+function x264_pixel_avg_w4_neon, export=0
subs lr, lr, #2
vld1.32 {d0[]}, [r2], r3
vld1.32 {d2[]}, [r4], r5
vst1.32 {d1[0]}, [r0,:32], r1
bgt x264_pixel_avg_w4_neon
pop {r4-r6,pc}
-.endfunc
+endfunc
-function x264_pixel_avg_w8_neon
+function x264_pixel_avg_w8_neon, export=0
subs lr, lr, #4
vld1.64 {d0}, [r2], r3
vld1.64 {d2}, [r4], r5
vst1.64 {d3}, [r0,:64], r1
bgt x264_pixel_avg_w8_neon
pop {r4-r6,pc}
-.endfunc
+endfunc
-function x264_pixel_avg_w16_neon
+function x264_pixel_avg_w16_neon, export=0
subs lr, lr, #4
vld1.64 {d0-d1}, [r2], r3
vld1.64 {d2-d3}, [r4], r5
vst1.64 {d6-d7}, [r0,:128], r1
bgt x264_pixel_avg_w16_neon
pop {r4-r6,pc}
-.endfunc
+endfunc
function x264_pixel_avg2_w4_neon
vst1.32 {d1[0]}, [r0,:32], r1
bgt avg2_w4_loop
pop {pc}
-.endfunc
+endfunc
function x264_pixel_avg2_w8_neon
ldr ip, [sp, #4]
vst1.64 {d1}, [r0,:64], r1
bgt avg2_w8_loop
pop {pc}
-.endfunc
+endfunc
function x264_pixel_avg2_w16_neon
ldr ip, [sp, #4]
vst1.64 {d4-d5}, [r0,:128], r1
bgt avg2_w16_loop
pop {pc}
-.endfunc
+endfunc
function x264_pixel_avg2_w20_neon
ldr ip, [sp, #4]
vst1.32 {d6[0]}, [r0,:32], r1
bgt avg2_w20_loop
pop {pc}
-.endfunc
+endfunc
.macro weight_prologue type
ldr lr, [r4, #32] // denom
.endif
ldrd r4, r5, [r4, #32+4] // scale, offset
- vdup.16 q0, r4
+ vdup.8 d0, r4
vdup.16 q1, r5
.ifc \type, full
rsb lr, lr, #0
weight20_loop:
subs ip, #2
vld1.8 {d17-d19}, [r2], r3
- vmovl.u8 q10, d17
- vmovl.u8 q11, d18
- vmovl.u8 q14, d19
+ vmull.u8 q10, d17, d0
+ vmull.u8 q11, d18, d0
vld1.8 {d16-d18}, [r2], r3
- vmovl.u8 q12, d16
- vmovl.u8 q13, d17
- vmovl.u8 q15, d18
- vmul.s16 q10, q10, q0
- vmul.s16 q11, q11, q0
- vmul.s16 q12, q12, q0
- vmul.s16 q13, q13, q0
- vmul.s16 d28, d28, d0
- vmul.s16 d29, d30, d0
+ vmull.u8 q12, d16, d0
+ vmull.u8 q13, d17, d0
+ vtrn.32 d19, d18
+ vmull.u8 q14, d19, d0
vrshl.s16 q10, q10, q2
vrshl.s16 q11, q11, q2
vrshl.s16 q12, q12, q2
vst1.32 {d20[1]}, [r0,:32], r1
bgt weight20_loop
pop {r4-r5,pc}
-.endfunc
+endfunc
function x264_mc_weight_w16_neon
weight_prologue full
subs ip, #2
vld1.8 {d16-d17}, [r2], r3
vld1.8 {d18-d19}, [r2], r3
- vmovl.u8 q10, d16
- vmovl.u8 q11, d17
- vmovl.u8 q12, d18
- vmovl.u8 q13, d19
- vmul.s16 q10, q10, q0
- vmul.s16 q11, q11, q0
- vmul.s16 q12, q12, q0
- vmul.s16 q13, q13, q0
+ vmull.u8 q10, d16, d0
+ vmull.u8 q11, d17, d0
+ vmull.u8 q12, d18, d0
+ vmull.u8 q13, d19, d0
vrshl.s16 q10, q10, q2
vrshl.s16 q11, q11, q2
vrshl.s16 q12, q12, q2
vst1.8 {d18-d19}, [r0,:128], r1
bgt weight16_loop
pop {r4-r5,pc}
-.endfunc
+endfunc
function x264_mc_weight_w8_neon
weight_prologue full
subs ip, #2
vld1.8 {d16}, [r2], r3
vld1.8 {d18}, [r2], r3
- vmovl.u8 q8, d16
- vmovl.u8 q9, d18
- vmul.s16 q8, q8, q0
- vmul.s16 q9, q9, q0
+ vmull.u8 q8, d16, d0
+ vmull.u8 q9, d18, d0
vrshl.s16 q8, q8, q2
vrshl.s16 q9, q9, q2
vadd.s16 q8, q8, q1
vst1.8 {d18}, [r0,:64], r1
bgt weight8_loop
pop {r4-r5,pc}
-.endfunc
+endfunc
function x264_mc_weight_w4_neon
weight_prologue full
weight4_loop:
subs ip, #2
- vld1.32 {d16[]}, [r2], r3
- vld1.32 {d18[]}, [r2], r3
- vmovl.u8 q8, d16
- vmovl.u8 q9, d18
- vmul.s16 d16, d16, d0
- vmul.s16 d17, d18, d0
+ vld1.32 {d16[0]}, [r2], r3
+ vld1.32 {d16[1]}, [r2], r3
+ vmull.u8 q8, d16, d0
vrshl.s16 q8, q8, q2
vadd.s16 q8, q8, q1
vqmovun.s16 d16, q8
- vst1.32 {d16[0]}, [r0,:32], r1
- vst1.32 {d16[1]}, [r0,:32], r1
+ vst1.32 {d16[0]}, [r0], r1
+ vst1.32 {d16[1]}, [r0], r1
bgt weight4_loop
pop {r4-r5,pc}
-.endfunc
+endfunc
function x264_mc_weight_w20_nodenom_neon
weight_prologue nodenom
sub r1, #16
weight20_nodenom_loop:
subs ip, #2
- vld1.8 {d17-d19}, [r2], r3
- vmovl.u8 q10, d17
- vmovl.u8 q11, d18
- vmovl.u8 q14, d19
- vld1.8 {d16-d18}, [r2], r3
- vmovl.u8 q12, d16
- vmovl.u8 q13, d17
- vmovl.u8 q15, d18
+ vld1.8 {d26-d28}, [r2], r3
vmov q8, q1
vmov q9, q1
- vmla.s16 q8, q10, q0
- vmla.s16 q9, q11, q0
+ vld1.8 {d29-d31}, [r2], r3
vmov q10, q1
vmov q11, q1
- vmla.s16 q10, q12, q0
- vmla.s16 q11, q13, q0
vmov q12, q1
- vmla.s16 d24, d28, d0
- vmla.s16 d25, d30, d0
+ vtrn.32 d28, d31
+ vmlal.u8 q8, d26, d0
+ vmlal.u8 q9, d27, d0
+ vmlal.u8 q10, d29, d0
+ vmlal.u8 q11, d30, d0
+ vmlal.u8 q12, d28, d0
vqmovun.s16 d16, q8
vqmovun.s16 d17, q9
vqmovun.s16 d18, q10
vst1.32 {d20[1]}, [r0,:32], r1
bgt weight20_nodenom_loop
pop {r4-r5,pc}
-.endfunc
+endfunc
function x264_mc_weight_w16_nodenom_neon
weight_prologue nodenom
subs ip, #2
vld1.8 {d16-d17}, [r2], r3
vld1.8 {d18-d19}, [r2], r3
- vmovl.u8 q12, d16
- vmovl.u8 q13, d17
- vmovl.u8 q14, d18
- vmovl.u8 q15, d19
- vmov q8, q1
- vmov q9, q1
- vmov q10, q1
- vmov q11, q1
- vmla.s16 q8, q12, q0
- vmla.s16 q9, q13, q0
- vmla.s16 q10, q14, q0
- vmla.s16 q11, q15, q0
- vqmovun.s16 d16, q8
- vqmovun.s16 d17, q9
- vqmovun.s16 d18, q10
- vqmovun.s16 d19, q11
+ vmov q12, q1
+ vmov q13, q1
+ vmov q14, q1
+ vmov q15, q1
+ vmlal.u8 q12, d16, d0
+ vmlal.u8 q13, d17, d0
+ vmlal.u8 q14, d18, d0
+ vmlal.u8 q15, d19, d0
+ vqmovun.s16 d16, q12
+ vqmovun.s16 d17, q13
+ vqmovun.s16 d18, q14
+ vqmovun.s16 d19, q15
vst1.8 {d16-d17}, [r0,:128], r1
vst1.8 {d18-d19}, [r0,:128], r1
bgt weight16_nodenom_loop
pop {r4-r5,pc}
-.endfunc
+endfunc
function x264_mc_weight_w8_nodenom_neon
weight_prologue nodenom
subs ip, #2
vld1.8 {d16}, [r2], r3
vld1.8 {d18}, [r2], r3
- vmovl.u8 q8, d16
- vmovl.u8 q9, d18
vmov q10, q1
vmov q11, q1
- vmla.s16 q10, q8, q0
- vmla.s16 q11, q9, q0
+ vmlal.u8 q10, d16, d0
+ vmlal.u8 q11, d18, d0
vqmovun.s16 d16, q10
vqmovun.s16 d17, q11
vst1.8 {d16}, [r0,:64], r1
vst1.8 {d17}, [r0,:64], r1
bgt weight8_nodenom_loop
pop {r4-r5,pc}
-.endfunc
+endfunc
function x264_mc_weight_w4_nodenom_neon
weight_prologue nodenom
weight4_nodenom_loop:
subs ip, #2
- vld1.32 {d16[]}, [r2], r3
- vld1.32 {d18[]}, [r2], r3
- vmovl.u8 q8, d16
- vmovl.u8 q9, d18
+ vld1.32 {d16[0]}, [r2], r3
+ vld1.32 {d16[1]}, [r2], r3
vmov q10, q1
- vmla.s16 d20, d16, d0
- vmla.s16 d21, d18, d0
+ vmlal.u8 q10, d16, d0
vqmovun.s16 d16, q10
- vst1.32 {d16[0]}, [r0,:32], r1
- vst1.32 {d16[1]}, [r0,:32], r1
+ vst1.32 {d16[0]}, [r0], r1
+ vst1.32 {d16[1]}, [r0], r1
bgt weight4_nodenom_loop
pop {r4-r5,pc}
-.endfunc
+endfunc
.macro weight_simple_prologue
push {lr}
vst1.8 {d19-d21}, [r0,:64], r1
bgt weight20_\name\()_loop
pop {pc}
-.endfunc
+endfunc
function x264_mc_weight_w16_\name\()_neon
weight_simple_prologue
vst1.8 {d18-d19}, [r0,:128], r1
bgt weight16_\name\()_loop
pop {pc}
-.endfunc
+endfunc
function x264_mc_weight_w8_\name\()_neon
weight_simple_prologue
vst1.8 {d17}, [r0,:64], r1
bgt weight8_\name\()_loop
pop {pc}
-.endfunc
+endfunc
function x264_mc_weight_w4_\name\()_neon
weight_simple_prologue
vld1.32 {d16[]}, [r2], r3
vld1.32 {d17[]}, [r2], r3
\op q8, q8, q1
- vst1.32 {d16[0]}, [r0,:32], r1
- vst1.32 {d17[0]}, [r0,:32], r1
+ vst1.32 {d16[0]}, [r0], r1
+ vst1.32 {d17[0]}, [r0], r1
bgt weight4_\name\()_loop
pop {pc}
-.endfunc
+endfunc
.endm
weight_simple offsetadd, vqadd.u8
vst1.32 {d3[0]}, [r0,:32], r1
bgt copy_w4_loop
bx lr
-.endfunc
+endfunc
function x264_mc_copy_w8_neon
ldr ip, [sp]
vst1.32 {d3}, [r0,:64], r1
bgt copy_w8_loop
bx lr
-.endfunc
+endfunc
function x264_mc_copy_w16_neon
ldr ip, [sp]
vst1.32 {d6-d7}, [r0,:128], r1
bgt copy_w16_loop
bx lr
-.endfunc
+endfunc
function x264_mc_copy_w16_aligned_neon
ldr ip, [sp]
vst1.32 {d6-d7}, [r0,:128], r1
bgt copy_w16_aligned_loop
bx lr
-.endfunc
+endfunc
// void x264_mc_chroma_neon( uint8_t *dst, intptr_t i_dst_stride,
vpop {d8-d11}
pop {r4-r8, pc}
-.endfunc
+endfunc
// hpel_filter_v( uint8_t *dst, uint8_t *src, int16_t *buf, intptr_t stride, int width )
vst1.64 {d0-d1}, [r0,:128]!
bgt filter_v_loop
pop {pc}
-.endfunc
+endfunc
// hpel_filter_c( uint8_t *dst, int16_t *buf, int width );
function x264_hpel_filter_c_neon
vst1.64 {d30-d31}, [r0,:128]!
bgt filter_c_loop
bx lr
-.endfunc
+endfunc
// hpel_filter_h( uint8_t *dst, uint8_t *src, int width );
function x264_hpel_filter_h_neon
vst1.64 {d6-d7}, [r0,:128]!
bgt filter_h_loop
bx lr
-.endfunc
+endfunc
// frame_init_lowres_core( uint8_t *src0, uint8_t *dst0, uint8_t *dsth, uint8_t *dstv,
vpop {d8-d15}
pop {r4-r10,pc}
-.endfunc
+endfunc
function x264_load_deinterleave_chroma_fdec_neon
mov ip, #FDEC_STRIDE/2
bgt 1b
bx lr
-.endfunc
+endfunc
function x264_load_deinterleave_chroma_fenc_neon
mov ip, #FENC_STRIDE/2
bgt 1b
bx lr
-.endfunc
+endfunc
function x264_plane_copy_deinterleave_neon
push {r4-r7, lr}
bgt block
pop {r4-r7, pc}
-.endfunc
+endfunc
+
+function x264_plane_copy_deinterleave_rgb_neon
+ push {r4-r8, r10, r11, lr}
+ ldrd r4, r5, [sp, #32]
+ ldrd r6, r7, [sp, #40]
+ ldr r8, [sp, #48]
+ ldrd r10, r11, [sp, #52]
+ add lr, r10, #7
+ subs r8, r8, #3
+ bic lr, lr, #7
+ sub r7, r7, lr, lsl #1
+ sub r1, r1, lr
+ sub r3, r3, lr
+ sub r5, r5, lr
+ subne r7, r7, lr, lsl #1
+ subeq r7, r7, lr
+ bne block4
+block3:
+ vld3.8 {d0,d1,d2}, [r6]!
+ subs lr, lr, #8
+ vst1.8 {d0}, [r0]!
+ vst1.8 {d1}, [r2]!
+ vst1.8 {d2}, [r4]!
+ bgt block3
+
+ subs r11, r11, #1
+ add r0, r0, r1
+ add r2, r2, r3
+ add r4, r4, r5
+ add r6, r6, r7
+ mov lr, r10
+ bgt block3
+
+ pop {r4-r8, r10, r11, pc}
+block4:
+ vld4.8 {d0,d1,d2,d3}, [r6]!
+ subs lr, lr, #8
+ vst1.8 {d0}, [r0]!
+ vst1.8 {d1}, [r2]!
+ vst1.8 {d2}, [r4]!
+ bgt block4
+
+ subs r11, r11, #1
+ add r0, r0, r1
+ add r2, r2, r3
+ add r4, r4, r5
+ add r6, r6, r7
+ mov lr, r10
+ bgt block4
+
+ pop {r4-r8, r10, r11, pc}
+endfunc
+
+function x264_plane_copy_interleave_neon
+ push {r4-r7, lr}
+ ldrd r6, r7, [sp, #28]
+ ldrd r4, r5, [sp, #20]
+ add lr, r6, #15
+ bic lr, lr, #15
+ sub r1, r1, lr, lsl #1
+ sub r3, r3, lr
+ sub r5, r5, lr
+blocki:
+ vld1.8 {q0}, [r2]!
+ vld1.8 {q1}, [r4]!
+ subs lr, lr, #16
+ vst2.8 {d0,d2}, [r0]!
+ vst2.8 {d1,d3}, [r0]!
+ bgt blocki
+
+ subs r7, r7, #1
+ add r0, r0, r1
+ add r2, r2, r3
+ add r4, r4, r5
+ mov lr, r6
+ bgt blocki
+
+ pop {r4-r7, pc}
+endfunc
+
+function x264_plane_copy_swap_neon
+ push {r4-r5, lr}
+ ldrd r4, r5, [sp, #12]
+ add lr, r4, #15
+ bic lr, lr, #15
+ sub r1, r1, lr, lsl #1
+ sub r3, r3, lr, lsl #1
+1:
+ vld1.8 {q0, q1}, [r2]!
+ subs lr, lr, #16
+ vrev16.8 q0, q0
+ vrev16.8 q1, q1
+ vst1.8 {q0, q1}, [r0]!
+ bgt 1b
+
+ subs r5, r5, #1
+ add r0, r0, r1
+ add r2, r2, r3
+ mov lr, r4
+ bgt 1b
+
+ pop {r4-r5, pc}
+endfunc
+
+function x264_store_interleave_chroma_neon
+ push {lr}
+ ldr lr, [sp, #4]
+ mov ip, #FDEC_STRIDE
+1:
+ vld1.8 {d0}, [r2], ip
+ vld1.8 {d1}, [r3], ip
+ subs lr, lr, #1
+ vst2.8 {d0,d1}, [r0,:128], r1
+ bgt 1b
+
+ pop {pc}
+endfunc
+
+.macro integral4h p1, p2
+ vext.8 d1, \p1, \p2, #1
+ vext.8 d2, \p1, \p2, #2
+ vext.8 d3, \p1, \p2, #3
+ vaddl.u8 q0, \p1, d1
+ vaddl.u8 q1, d2, d3
+ vadd.u16 q0, q0, q1
+ vadd.u16 q0, q0, q2
+.endm
+
+function integral_init4h_neon
+ sub r3, r0, r2, lsl #1
+ vld1.8 {d6, d7}, [r1, :128]!
+1:
+ subs r2, r2, #16
+ vld1.16 {q2}, [r3, :128]!
+ integral4h d6, d7
+ vld1.8 {d6}, [r1, :64]!
+ vld1.16 {q2}, [r3, :128]!
+ vst1.16 {q0}, [r0, :128]!
+ integral4h d7, d6
+ vld1.8 {d7}, [r1, :64]!
+ vst1.16 {q0}, [r0, :128]!
+ bgt 1b
+ bx lr
+endfunc
+
+.macro integral8h p1, p2, s
+ vext.8 d1, \p1, \p2, #1
+ vext.8 d2, \p1, \p2, #2
+ vext.8 d3, \p1, \p2, #3
+ vext.8 d4, \p1, \p2, #4
+ vext.8 d5, \p1, \p2, #5
+ vext.8 d6, \p1, \p2, #6
+ vext.8 d7, \p1, \p2, #7
+ vaddl.u8 q0, \p1, d1
+ vaddl.u8 q1, d2, d3
+ vaddl.u8 q2, d4, d5
+ vaddl.u8 q3, d6, d7
+ vadd.u16 q0, q0, q1
+ vadd.u16 q2, q2, q3
+ vadd.u16 q0, q0, q2
+ vadd.u16 q0, q0, \s
+.endm
+
+function integral_init8h_neon
+ sub r3, r0, r2, lsl #1
+ vld1.8 {d16, d17}, [r1, :128]!
+1:
+ subs r2, r2, #16
+ vld1.16 {q9}, [r3, :128]!
+ integral8h d16, d17, q9
+ vld1.8 {d16}, [r1, :64]!
+ vld1.16 {q9}, [r3, :128]!
+ vst1.16 {q0}, [r0, :128]!
+ integral8h d17, d16, q9
+ vld1.8 {d17}, [r1, :64]!
+ vst1.16 {q0}, [r0, :128]!
+ bgt 1b
+ bx lr
+endfunc
+
+function integral_init4v_neon
+ push {r4-r5}
+ mov r3, r0
+ add r4, r0, r2, lsl #3
+ add r5, r0, r2, lsl #4
+ sub r2, r2, #8
+ vld1.16 {q11, q12}, [r3]!
+ vld1.16 {q8, q9}, [r5]!
+ vld1.16 {q13}, [r3]!
+ vld1.16 {q10}, [r5]!
+1:
+ subs r2, r2, #16
+ vld1.16 {q14, q15}, [r4]!
+ vext.8 q0, q11, q12, #8
+ vext.8 q1, q12, q13, #8
+ vext.8 q2, q8, q9, #8
+ vext.8 q3, q9, q10, #8
+ vsub.u16 q14, q14, q11
+ vsub.u16 q15, q15, q12
+ vadd.u16 q0, q0, q11
+ vadd.u16 q1, q1, q12
+ vadd.u16 q2, q2, q8
+ vadd.u16 q3, q3, q9
+ vst1.16 {q14}, [r1]!
+ vst1.16 {q15}, [r1]!
+ vmov q11, q13
+ vmov q8, q10
+ vsub.u16 q0, q2, q0
+ vsub.u16 q1, q3, q1
+ vld1.16 {q12, q13}, [r3]!
+ vld1.16 {q9, q10}, [r5]!
+ vst1.16 {q0}, [r0]!
+ vst1.16 {q1}, [r0]!
+ bgt 1b
+2:
+ pop {r4-r5}
+ bx lr
+endfunc
+
+function integral_init8v_neon
+ add r2, r0, r1, lsl #4
+ sub r1, r1, #8
+ ands r3, r1, #16 - 1
+ beq 1f
+ subs r1, r1, #8
+ vld1.16 {q0}, [r0]
+ vld1.16 {q2}, [r2]!
+ vsub.u16 q8, q2, q0
+ vst1.16 {q8}, [r0]!
+ ble 2f
+1:
+ subs r1, r1, #16
+ vld1.16 {q0, q1}, [r0]
+ vld1.16 {q2, q3}, [r2]!
+ vsub.u16 q8, q2, q0
+ vsub.u16 q9, q3, q1
+ vst1.16 {q8}, [r0]!
+ vst1.16 {q9}, [r0]!
+ bgt 1b
+2:
+ bx lr
+endfunc