]> git.sesse.net Git - x264/blob - common/x86/util.h
Fix all aliasing violations
[x264] / common / x86 / util.h
1 /*****************************************************************************
2  * mc.h: h264 encoder library
3  *****************************************************************************
4  * Copyright (C) 2008 x264 Project
5  *
6  * Authors: Fiona Glaser <fiona@x264.com>
7  *          Loren Merritt <lorenm@u.washington.edu>
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License as published by
11  * the Free Software Foundation; either version 2 of the License, or
12  * (at your option) any later version.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA  02111, USA.
22  *****************************************************************************/
23
24 #ifndef X264_X86_UTIL_H
25 #define X264_X86_UTIL_H
26
27 #ifdef __GNUC__
28 #define x264_median_mv x264_median_mv_mmxext
29 static inline void x264_median_mv_mmxext( int16_t *dst, int16_t *a, int16_t *b, int16_t *c )
30 {
31     asm(
32         "movd   %1,    %%mm0 \n"
33         "movd   %2,    %%mm1 \n"
34         "movq   %%mm0, %%mm3 \n"
35         "movd   %3,    %%mm2 \n"
36         "pmaxsw %%mm1, %%mm0 \n"
37         "pminsw %%mm3, %%mm1 \n"
38         "pminsw %%mm2, %%mm0 \n"
39         "pmaxsw %%mm1, %%mm0 \n"
40         "movd   %%mm0, %0    \n"
41         :"=m"(*(x264_union32_t*)dst)
42         :"m"(M32( a )), "m"(M32( b )), "m"(M32( c ))
43     );
44 }
45 #define x264_predictor_difference x264_predictor_difference_mmxext
46 static inline int x264_predictor_difference_mmxext( int16_t (*mvc)[2], intptr_t i_mvc )
47 {
48     int sum = 0;
49     uint16_t output[4];
50     asm(
51         "pxor    %%mm4, %%mm4 \n"
52         "test    $1, %1       \n"
53         "jnz 3f               \n"
54         "movd    -8(%2,%1,4), %%mm0 \n"
55         "movd    -4(%2,%1,4), %%mm3 \n"
56         "psubw   %%mm3, %%mm0 \n"
57         "jmp 2f               \n"
58         "3:                   \n"
59         "sub     $1,    %1    \n"
60         "1:                   \n"
61         "movq    -8(%2,%1,4), %%mm0 \n"
62         "psubw   -4(%2,%1,4), %%mm0 \n"
63         "2:                   \n"
64         "sub     $2,    %1    \n"
65         "pxor    %%mm2, %%mm2 \n"
66         "psubw   %%mm0, %%mm2 \n"
67         "pmaxsw  %%mm2, %%mm0 \n"
68         "paddusw %%mm0, %%mm4 \n"
69         "jg 1b                \n"
70         "movq    %%mm4, %0    \n"
71         :"=m"(output), "+r"(i_mvc)
72         :"r"(mvc), "m"(M64( mvc ))
73     );
74     sum += output[0] + output[1] + output[2] + output[3];
75     return sum;
76 }
77 #define x264_cabac_amvd_sum x264_cabac_amvd_sum_mmxext
78 static ALWAYS_INLINE uint32_t x264_cabac_amvd_sum_mmxext(int16_t *mvdleft, int16_t *mvdtop)
79 {
80     static const uint64_t pw_2    = 0x0002000200020002ULL;
81     static const uint64_t pw_28   = 0x001C001C001C001CULL;
82     static const uint64_t pw_2184 = 0x0888088808880888ULL;
83     /* MIN(((x+28)*2184)>>16,2) = (x>2) + (x>32) */
84     /* 2184 = fix16(1/30) */
85     uint32_t amvd;
86     asm(
87         "movd      %1, %%mm0 \n"
88         "movd      %2, %%mm1 \n"
89         "pxor   %%mm2, %%mm2 \n"
90         "pxor   %%mm3, %%mm3 \n"
91         "psubw  %%mm0, %%mm2 \n"
92         "psubw  %%mm1, %%mm3 \n"
93         "pmaxsw %%mm2, %%mm0 \n"
94         "pmaxsw %%mm3, %%mm1 \n"
95         "paddw     %3, %%mm0 \n"
96         "paddw  %%mm1, %%mm0 \n"
97         "pmulhuw   %4, %%mm0 \n"
98         "pminsw    %5, %%mm0 \n"
99         "movd   %%mm0, %0    \n"
100         :"=r"(amvd)
101         :"m"(M32( mvdleft )),"m"(M32( mvdtop )),
102          "m"(pw_28),"m"(pw_2184),"m"(pw_2)
103     );
104     return amvd;
105 }
106 #endif
107
108 #endif