]> git.sesse.net Git - ffmpeg/blob - libavcodec/h263data.h
Switch idct_mmx_xvid.c from GPL to LGPL as permitted by the
[ffmpeg] / libavcodec / h263data.h
1 /*
2  * copyright (c) 2000,2001 Fabrice Bellard
3  * H263+ support
4  * copyright (c) 2001 Juan J. Sierralta P.
5  * copyright (c) 2002-2004 Michael Niedermayer <michaelni@gmx.at>
6  *
7  * This library is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2 of the License, or (at your option) any later version.
11  *
12  * This library is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with this library; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file h263data.h
24  * H.263 tables.
25  */
26
27
28 /* intra MCBPC, mb_type = (intra), then (intraq) */
29 const uint8_t intra_MCBPC_code[9] = { 1, 1, 2, 3, 1, 1, 2, 3, 1 };
30 const uint8_t intra_MCBPC_bits[9] = { 1, 3, 3, 3, 4, 6, 6, 6, 9 };
31
32 /* inter MCBPC, mb_type = (inter), (intra), (interq), (intraq), (inter4v) */
33 /* Changed the tables for interq and inter4v+q, following the standard ** Juanjo ** */
34 const uint8_t inter_MCBPC_code[28] = {
35     1, 3, 2, 5,
36     3, 4, 3, 3,
37     3, 7, 6, 5,
38     4, 4, 3, 2,
39     2, 5, 4, 5,
40     1, 0, 0, 0, /* Stuffing */
41     2, 12, 14, 15,
42 };
43 const uint8_t inter_MCBPC_bits[28] = {
44     1, 4, 4, 6, /* inter  */
45     5, 8, 8, 7, /* intra  */
46     3, 7, 7, 9, /* interQ */
47     6, 9, 9, 9, /* intraQ */
48     3, 7, 7, 8, /* inter4 */
49     9, 0, 0, 0, /* Stuffing */
50     11, 13, 13, 13,/* inter4Q*/
51 };
52
53 static const uint8_t h263_mbtype_b_tab[15][2] = {
54  {1, 1},
55  {3, 3},
56  {1, 5},
57  {4, 4},
58  {5, 4},
59  {6, 6},
60  {2, 4},
61  {3, 4},
62  {7, 6},
63  {4, 6},
64  {5, 6},
65  {1, 6},
66  {1,10},
67  {1, 7},
68  {1, 8},
69 };
70
71 static const int h263_mb_type_b_map[15]= {
72     MB_TYPE_DIRECT2 | MB_TYPE_L0L1,
73     MB_TYPE_DIRECT2 | MB_TYPE_L0L1 | MB_TYPE_CBP,
74     MB_TYPE_DIRECT2 | MB_TYPE_L0L1 | MB_TYPE_CBP | MB_TYPE_QUANT,
75                       MB_TYPE_L0                                 | MB_TYPE_16x16,
76                       MB_TYPE_L0   | MB_TYPE_CBP                 | MB_TYPE_16x16,
77                       MB_TYPE_L0   | MB_TYPE_CBP | MB_TYPE_QUANT | MB_TYPE_16x16,
78                       MB_TYPE_L1                                 | MB_TYPE_16x16,
79                       MB_TYPE_L1   | MB_TYPE_CBP                 | MB_TYPE_16x16,
80                       MB_TYPE_L1   | MB_TYPE_CBP | MB_TYPE_QUANT | MB_TYPE_16x16,
81                       MB_TYPE_L0L1                               | MB_TYPE_16x16,
82                       MB_TYPE_L0L1 | MB_TYPE_CBP                 | MB_TYPE_16x16,
83                       MB_TYPE_L0L1 | MB_TYPE_CBP | MB_TYPE_QUANT | MB_TYPE_16x16,
84     0, //stuffing
85     MB_TYPE_INTRA4x4                | MB_TYPE_CBP,
86     MB_TYPE_INTRA4x4                | MB_TYPE_CBP | MB_TYPE_QUANT,
87 };
88
89 const uint8_t cbpc_b_tab[4][2] = {
90 {0, 1},
91 {2, 2},
92 {7, 3},
93 {6, 3},
94 };
95
96 const uint8_t cbpy_tab[16][2] =
97 {
98   {3,4}, {5,5}, {4,5}, {9,4}, {3,5}, {7,4}, {2,6}, {11,4},
99   {2,5}, {3,6}, {5,4}, {10,4}, {4,4}, {8,4}, {6,4}, {3,2}
100 };
101
102 const uint8_t mvtab[33][2] =
103 {
104   {1,1}, {1,2}, {1,3}, {1,4}, {3,6}, {5,7}, {4,7}, {3,7},
105   {11,9}, {10,9}, {9,9}, {17,10}, {16,10}, {15,10}, {14,10}, {13,10},
106   {12,10}, {11,10}, {10,10}, {9,10}, {8,10}, {7,10}, {6,10}, {5,10},
107   {4,10}, {7,11}, {6,11}, {5,11}, {4,11}, {3,11}, {2,11}, {3,12},
108   {2,12}
109 };
110
111 /* third non intra table */
112 const uint16_t inter_vlc[103][2] = {
113 { 0x2, 2 },{ 0xf, 4 },{ 0x15, 6 },{ 0x17, 7 },
114 { 0x1f, 8 },{ 0x25, 9 },{ 0x24, 9 },{ 0x21, 10 },
115 { 0x20, 10 },{ 0x7, 11 },{ 0x6, 11 },{ 0x20, 11 },
116 { 0x6, 3 },{ 0x14, 6 },{ 0x1e, 8 },{ 0xf, 10 },
117 { 0x21, 11 },{ 0x50, 12 },{ 0xe, 4 },{ 0x1d, 8 },
118 { 0xe, 10 },{ 0x51, 12 },{ 0xd, 5 },{ 0x23, 9 },
119 { 0xd, 10 },{ 0xc, 5 },{ 0x22, 9 },{ 0x52, 12 },
120 { 0xb, 5 },{ 0xc, 10 },{ 0x53, 12 },{ 0x13, 6 },
121 { 0xb, 10 },{ 0x54, 12 },{ 0x12, 6 },{ 0xa, 10 },
122 { 0x11, 6 },{ 0x9, 10 },{ 0x10, 6 },{ 0x8, 10 },
123 { 0x16, 7 },{ 0x55, 12 },{ 0x15, 7 },{ 0x14, 7 },
124 { 0x1c, 8 },{ 0x1b, 8 },{ 0x21, 9 },{ 0x20, 9 },
125 { 0x1f, 9 },{ 0x1e, 9 },{ 0x1d, 9 },{ 0x1c, 9 },
126 { 0x1b, 9 },{ 0x1a, 9 },{ 0x22, 11 },{ 0x23, 11 },
127 { 0x56, 12 },{ 0x57, 12 },{ 0x7, 4 },{ 0x19, 9 },
128 { 0x5, 11 },{ 0xf, 6 },{ 0x4, 11 },{ 0xe, 6 },
129 { 0xd, 6 },{ 0xc, 6 },{ 0x13, 7 },{ 0x12, 7 },
130 { 0x11, 7 },{ 0x10, 7 },{ 0x1a, 8 },{ 0x19, 8 },
131 { 0x18, 8 },{ 0x17, 8 },{ 0x16, 8 },{ 0x15, 8 },
132 { 0x14, 8 },{ 0x13, 8 },{ 0x18, 9 },{ 0x17, 9 },
133 { 0x16, 9 },{ 0x15, 9 },{ 0x14, 9 },{ 0x13, 9 },
134 { 0x12, 9 },{ 0x11, 9 },{ 0x7, 10 },{ 0x6, 10 },
135 { 0x5, 10 },{ 0x4, 10 },{ 0x24, 11 },{ 0x25, 11 },
136 { 0x26, 11 },{ 0x27, 11 },{ 0x58, 12 },{ 0x59, 12 },
137 { 0x5a, 12 },{ 0x5b, 12 },{ 0x5c, 12 },{ 0x5d, 12 },
138 { 0x5e, 12 },{ 0x5f, 12 },{ 0x3, 7 },
139 };
140
141 const int8_t inter_level[102] = {
142   1,  2,  3,  4,  5,  6,  7,  8,
143   9, 10, 11, 12,  1,  2,  3,  4,
144   5,  6,  1,  2,  3,  4,  1,  2,
145   3,  1,  2,  3,  1,  2,  3,  1,
146   2,  3,  1,  2,  1,  2,  1,  2,
147   1,  2,  1,  1,  1,  1,  1,  1,
148   1,  1,  1,  1,  1,  1,  1,  1,
149   1,  1,  1,  2,  3,  1,  2,  1,
150   1,  1,  1,  1,  1,  1,  1,  1,
151   1,  1,  1,  1,  1,  1,  1,  1,
152   1,  1,  1,  1,  1,  1,  1,  1,
153   1,  1,  1,  1,  1,  1,  1,  1,
154   1,  1,  1,  1,  1,  1,
155 };
156
157 const int8_t inter_run[102] = {
158   0,  0,  0,  0,  0,  0,  0,  0,
159   0,  0,  0,  0,  1,  1,  1,  1,
160   1,  1,  2,  2,  2,  2,  3,  3,
161   3,  4,  4,  4,  5,  5,  5,  6,
162   6,  6,  7,  7,  8,  8,  9,  9,
163  10, 10, 11, 12, 13, 14, 15, 16,
164  17, 18, 19, 20, 21, 22, 23, 24,
165  25, 26,  0,  0,  0,  1,  1,  2,
166   3,  4,  5,  6,  7,  8,  9, 10,
167  11, 12, 13, 14, 15, 16, 17, 18,
168  19, 20, 21, 22, 23, 24, 25, 26,
169  27, 28, 29, 30, 31, 32, 33, 34,
170  35, 36, 37, 38, 39, 40,
171 };
172
173 static RLTable rl_inter = {
174     102,
175     58,
176     inter_vlc,
177     inter_run,
178     inter_level,
179 };
180
181 const uint16_t intra_vlc_aic[103][2] = {
182 {  0x2,  2 }, {  0x6,  3 }, {  0xe,  4 }, {  0xc,  5 },
183 {  0xd,  5 }, { 0x10,  6 }, { 0x11,  6 }, { 0x12,  6 },
184 { 0x16,  7 }, { 0x1b,  8 }, { 0x20,  9 }, { 0x21,  9 },
185 { 0x1a,  9 }, { 0x1b,  9 }, { 0x1c,  9 }, { 0x1d,  9 },
186 { 0x1e,  9 }, { 0x1f,  9 }, { 0x23, 11 }, { 0x22, 11 },
187 { 0x57, 12 }, { 0x56, 12 }, { 0x55, 12 }, { 0x54, 12 },
188 { 0x53, 12 }, {  0xf,  4 }, { 0x14,  6 }, { 0x14,  7 },
189 { 0x1e,  8 }, {  0xf, 10 }, { 0x21, 11 }, { 0x50, 12 },
190 {  0xb,  5 }, { 0x15,  7 }, {  0xe, 10 }, {  0x9, 10 },
191 { 0x15,  6 }, { 0x1d,  8 }, {  0xd, 10 }, { 0x51, 12 },
192 { 0x13,  6 }, { 0x23,  9 }, {  0x7, 11 }, { 0x17,  7 },
193 { 0x22,  9 }, { 0x52, 12 }, { 0x1c,  8 }, {  0xc, 10 },
194 { 0x1f,  8 }, {  0xb, 10 }, { 0x25,  9 }, {  0xa, 10 },
195 { 0x24,  9 }, {  0x6, 11 }, { 0x21, 10 }, { 0x20, 10 },
196 {  0x8, 10 }, { 0x20, 11 }, {  0x7,  4 }, {  0xc,  6 },
197 { 0x10,  7 }, { 0x13,  8 }, { 0x11,  9 }, { 0x12,  9 },
198 {  0x4, 10 }, { 0x27, 11 }, { 0x26, 11 }, { 0x5f, 12 },
199 {  0xf,  6 }, { 0x13,  9 }, {  0x5, 10 }, { 0x25, 11 },
200 {  0xe,  6 }, { 0x14,  9 }, { 0x24, 11 }, {  0xd,  6 },
201 {  0x6, 10 }, { 0x5e, 12 }, { 0x11,  7 }, {  0x7, 10 },
202 { 0x13,  7 }, { 0x5d, 12 }, { 0x12,  7 }, { 0x5c, 12 },
203 { 0x14,  8 }, { 0x5b, 12 }, { 0x15,  8 }, { 0x1a,  8 },
204 { 0x19,  8 }, { 0x18,  8 }, { 0x17,  8 }, { 0x16,  8 },
205 { 0x19,  9 }, { 0x15,  9 }, { 0x16,  9 }, { 0x18,  9 },
206 { 0x17,  9 }, {  0x4, 11 }, {  0x5, 11 }, { 0x58, 12 },
207 { 0x59, 12 }, { 0x5a, 12 }, {  0x3,  7 },
208 };
209
210 const int8_t intra_run_aic[102] = {
211  0,  0,  0,  0,  0,  0,  0,  0,
212  0,  0,  0,  0,  0,  0,  0,  0,
213  0,  0,  0,  0,  0,  0,  0,  0,
214  0,  1,  1,  1,  1,  1,  1,  1,
215  2,  2,  2,  2,  3,  3,  3,  3,
216  4,  4,  4,  5,  5,  5,  6,  6,
217  7,  7,  8,  8,  9,  9, 10, 11,
218 12, 13,  0,  0,  0,  0,  0,  0,
219  0,  0,  0,  0,  1,  1,  1,  1,
220  2,  2,  2,  3,  3,  3,  4,  4,
221  5,  5,  6,  6,  7,  7,  8,  9,
222 10, 11, 12, 13, 14, 15, 16, 17,
223 18, 19, 20, 21, 22, 23,
224 };
225
226 const int8_t intra_level_aic[102] = {
227  1,  2,  3,  4,  5,  6,  7,  8,
228  9, 10, 11, 12, 13, 14, 15, 16,
229 17, 18, 19, 20, 21, 22, 23, 24,
230 25,  1,  2,  3,  4,  5,  6,  7,
231  1,  2,  3,  4,  1,  2,  3,  4,
232  1,  2,  3,  1,  2,  3,  1,  2,
233  1,  2,  1,  2,  1,  2,  1,  1,
234  1,  1,  1,  2,  3,  4,  5,  6,
235  7,  8,  9, 10,  1,  2,  3,  4,
236  1,  2,  3,  1,  2,  3,  1,  2,
237  1,  2,  1,  2,  1,  2,  1,  1,
238  1,  1,  1,  1,  1,  1,  1,  1,
239  1,  1,  1,  1,  1,  1,
240 };
241
242 static RLTable rl_intra_aic = {
243     102,
244     58,
245     intra_vlc_aic,
246     intra_run_aic,
247     intra_level_aic,
248 };
249
250 static const uint8_t wrong_run[102] = {
251  1,  2,  3,  5,  4, 10,  9,  8,
252 11, 15, 17, 16, 23, 22, 21, 20,
253 19, 18, 25, 24, 27, 26, 11,  7,
254  6,  1,  2, 13,  2,  2,  2,  2,
255  6, 12,  3,  9,  1,  3,  4,  3,
256  7,  4,  1,  1,  5,  5, 14,  6,
257  1,  7,  1,  8,  1,  1,  1,  1,
258 10,  1,  1,  5,  9, 17, 25, 24,
259 29, 33, 32, 41,  2, 23, 28, 31,
260  3, 22, 30,  4, 27, 40,  8, 26,
261  6, 39,  7, 38, 16, 37, 15, 10,
262 11, 12, 13, 14,  1, 21, 20, 18,
263 19,  2,  1, 34, 35, 36
264 };
265
266 static const uint16_t h263_format[8][2] = {
267     { 0, 0 },
268     { 128, 96 },
269     { 176, 144 },
270     { 352, 288 },
271     { 704, 576 },
272     { 1408, 1152 },
273 };
274
275 const uint8_t ff_aic_dc_scale_table[32]={
276 //  0  1  2  3  4  5  6  7  8  9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31
277     0, 2, 4, 6, 8,10,12,14,16,18,20,22,24,26,28,30,32,34,36,38,40,42,44,46,48,50,52,54,56,58,60,62
278 };
279
280 static const uint8_t modified_quant_tab[2][32]={
281 //  0  1  2  3  4  5  6  7  8  9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31
282 {
283     0, 3, 1, 2, 3, 4, 5, 6, 7, 8, 9, 9,10,11,12,13,14,15,16,17,18,18,19,20,21,22,23,24,25,26,27,28
284 },{
285     0, 2, 3, 4, 5, 6, 7, 8, 9,10,11,13,14,15,16,17,18,19,20,21,22,24,25,26,27,28,29,30,31,31,31,26
286 }
287 };
288
289 const uint8_t ff_h263_chroma_qscale_table[32]={
290 //  0  1  2  3  4  5  6  7  8  9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31
291     0, 1, 2, 3, 4, 5, 6, 6, 7, 8, 9, 9,10,10,11,11,12,12,12,13,13,13,14,14,14,14,14,15,15,15,15,15
292 };
293
294 const uint16_t ff_mba_max[6]={
295      47,  98, 395,1583,6335,9215
296 };
297
298 const uint8_t ff_mba_length[7]={
299       6,   7,   9,  11,  13,  14,  14
300 };
301
302 const uint8_t ff_h263_loop_filter_strength[32]={
303 //  0  1  2  3  4  5  6  7  8  9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31
304     0, 1, 1, 2, 2, 3, 3, 4, 4, 4, 5, 5, 6, 6, 7, 7, 7, 8, 8, 8, 9, 9, 9,10,10,10,11,11,11,12,12,12
305 };
306