]> git.sesse.net Git - ffmpeg/blob - libavcodec/ppc/gcc_fixes.h
Check *data_size in decode_frame()
[ffmpeg] / libavcodec / ppc / gcc_fixes.h
1 /*
2  * gcc fixes for altivec.
3  * Used to workaround broken gcc (FSF gcc-3 pre gcc-3.3)
4  * and to stay somewhat compatible with Darwin.
5  *
6  * This file is part of FFmpeg.
7  *
8  * FFmpeg is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU Lesser General Public
10  * License as published by the Free Software Foundation; either
11  * version 2.1 of the License, or (at your option) any later version.
12  *
13  * FFmpeg is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
16  * Lesser General Public License for more details.
17  *
18  * You should have received a copy of the GNU Lesser General Public
19  * License along with FFmpeg; if not, write to the Free Software
20  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
21  */
22
23 #ifndef FFMPEG_GCC_FIXES_H
24 #define FFMPEG_GCC_FIXES_H
25
26 #include "config.h"
27
28 #ifdef HAVE_ALTIVEC_H
29 #include <altivec.h>
30 #endif
31
32 #if (__GNUC__ < 4)
33 # define REG_v(a)
34 #else
35 # define REG_v(a) asm ( #a )
36 #endif
37
38 #if (__GNUC__ == 3 && __GNUC_MINOR__ < 3)
39
40 /* This code was provided to me by Bartosch Pixa
41  * as a separate header file (broken_mergel.h).
42  * thanks to lu_zero for the workaround.
43  *
44  * See this mail for more information:
45  * http://gcc.gnu.org/ml/gcc/2003-04/msg00967.html
46  */
47
48 static inline vector signed char ff_vmrglb (vector signed char const A,
49                                           vector signed char const B)
50 {
51     static const vector unsigned char lowbyte = {
52         0x08, 0x18, 0x09, 0x19, 0x0a, 0x1a, 0x0b,  0x1b,
53         0x0c, 0x1c, 0x0d, 0x1d, 0x0e, 0x1e, 0x0f, 0x1f
54     };
55     return vec_perm (A, B, lowbyte);
56 }
57
58 static inline vector signed short ff_vmrglh (vector signed short const A,
59                                           vector signed short const B)
60 {
61     static const vector unsigned char lowhalf = {
62         0x08, 0x09, 0x18, 0x19, 0x0a, 0x0b, 0x1a, 0x1b,
63         0x0c, 0x0d, 0x1c, 0x1d, 0x0e, 0x0f, 0x1e, 0x1f
64     };
65     return vec_perm (A, B, lowhalf);
66 }
67
68 static inline vector signed int ff_vmrglw (vector signed int const A,
69                                           vector signed int const B)
70 {
71     static const vector unsigned char lowword = {
72         0x08, 0x09, 0x0a, 0x0b, 0x18, 0x19, 0x1a, 0x1b,
73         0x0c, 0x0d, 0x0e, 0x0f, 0x1c, 0x1d, 0x1e, 0x1f
74     };
75     return vec_perm (A, B, lowword);
76 }
77 /*#define ff_vmrglb ff_vmrglb
78 #define ff_vmrglh ff_vmrglh
79 #define ff_vmrglw ff_vmrglw
80 */
81 #undef vec_mergel
82
83 #define vec_mergel(a1, a2) \
84 __ch (__bin_args_eq (vector signed char, (a1), vector signed char, (a2)), \
85       ((vector signed char) ff_vmrglb ((vector signed char) (a1), (vector signed char) (a2))), \
86 __ch (__bin_args_eq (vector unsigned char, (a1), vector unsigned char, (a2)), \
87       ((vector unsigned char) ff_vmrglb ((vector signed char) (a1), (vector signed char) (a2))), \
88 __ch (__bin_args_eq (vector signed short, (a1), vector signed short, (a2)), \
89       ((vector signed short) ff_vmrglh ((vector signed short) (a1), (vector signed short) (a2))), \
90 __ch (__bin_args_eq (vector unsigned short, (a1), vector unsigned short, (a2)), \
91       ((vector unsigned short) ff_vmrglh ((vector signed short) (a1), (vector signed short) (a2))), \
92 __ch (__bin_args_eq (vector float, (a1), vector float, (a2)), \
93       ((vector float) ff_vmrglw ((vector signed int) (a1), (vector signed int) (a2))), \
94 __ch (__bin_args_eq (vector signed int, (a1), vector signed int, (a2)), \
95       ((vector signed int) ff_vmrglw ((vector signed int) (a1), (vector signed int) (a2))), \
96 __ch (__bin_args_eq (vector unsigned int, (a1), vector unsigned int, (a2)), \
97       ((vector unsigned int) ff_vmrglw ((vector signed int) (a1), (vector signed int) (a2))), \
98     __altivec_link_error_invalid_argument ())))))))
99
100 #endif /* (__GNUC__ == 3 && __GNUC_MINOR__ < 3) */
101
102 #endif /* FFMPEG_GCC_FIXES_H */