]> git.sesse.net Git - ffmpeg/blob - libavutil/intmath.h
Deprecate PIX_FMT_YUVJ*
[ffmpeg] / libavutil / intmath.h
1 /*
2  * Copyright (c) 2010 Mans Rullgard <mans@mansr.com>
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #ifndef AVUTIL_INTMATH_H
22 #define AVUTIL_INTMATH_H
23
24 #include <stdint.h>
25 #include "config.h"
26 #include "attributes.h"
27
28 extern const uint32_t ff_inverse[257];
29
30 #if   ARCH_ARM
31 #   include "arm/intmath.h"
32 #elif ARCH_X86
33 #   include "x86/intmath.h"
34 #endif
35
36 #if HAVE_FAST_CLZ && AV_GCC_VERSION_AT_LEAST(3,4)
37
38 #ifndef av_log2
39
40 #define av_log2(x) (31 - __builtin_clz((x)|1))
41
42 #ifndef av_log2_16bit
43 #define av_log2_16bit av_log2
44 #endif
45
46 #endif /* av_log2 */
47
48 #endif /* AV_GCC_VERSION_AT_LEAST(3,4) */
49
50 #ifndef FASTDIV
51
52 #if CONFIG_FASTDIV
53 #    define FASTDIV(a,b)   ((uint32_t)((((uint64_t)a) * ff_inverse[b]) >> 32))
54 #else
55 #    define FASTDIV(a,b)   ((a) / (b))
56 #endif
57
58 #endif /* FASTDIV */
59
60 /*
61  * Get definition of av_log2_c from common.h.  In the event we got
62  * here through common.h including this file, including it again will
63  * be a no-op due to multi-inclusion guards, so we must duplicate the
64  * fallback defines here.
65  */
66
67 #include "common.h"
68
69 #ifndef av_log2
70 #   define av_log2       av_log2_c
71 #endif
72 #ifndef av_log2_16bit
73 #   define av_log2_16bit av_log2_16bit_c
74 #endif
75
76 extern const uint8_t ff_sqrt_tab[256];
77
78 static inline av_const unsigned int ff_sqrt(unsigned int a)
79 {
80     unsigned int b;
81
82     if (a < 255) return (ff_sqrt_tab[a + 1] - 1) >> 4;
83     else if (a < (1 << 12)) b = ff_sqrt_tab[a >> 4] >> 2;
84 #if !CONFIG_SMALL
85     else if (a < (1 << 14)) b = ff_sqrt_tab[a >> 6] >> 1;
86     else if (a < (1 << 16)) b = ff_sqrt_tab[a >> 8]   ;
87 #endif
88     else {
89         int s = av_log2_16bit(a >> 16) >> 1;
90         unsigned int c = a >> (s + 2);
91         b = ff_sqrt_tab[c >> (s + 8)];
92         b = FASTDIV(c,b) + (b << s);
93     }
94
95     return b - (a < b * b);
96 }
97
98 #endif /* AVUTIL_INTMATH_H */