]> git.sesse.net Git - ffmpeg/blob - libavcodec/dvdata.c
aacenc: Fix issues with huge values of bit_rate.
[ffmpeg] / libavcodec / dvdata.c
1 /*
2  * Constants for DV codec
3  * Copyright (c) 2002 Fabrice Bellard
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * Constants for DV codec.
25  */
26
27 #include "libavutil/rational.h"
28 #include "libavutil/pixdesc.h"
29 #include "avcodec.h"
30 #include "dvdata.h"
31
32 /* unquant tables (not used directly) */
33 const uint8_t ff_dv_quant_shifts[22][4] = {
34   { 3,3,4,4 },
35   { 3,3,4,4 },
36   { 2,3,3,4 },
37   { 2,3,3,4 },
38   { 2,2,3,3 },
39   { 2,2,3,3 },
40   { 1,2,2,3 },
41   { 1,2,2,3 },
42   { 1,1,2,2 },
43   { 1,1,2,2 },
44   { 0,1,1,2 },
45   { 0,1,1,2 },
46   { 0,0,1,1 },
47   { 0,0,1,1 },
48   { 0,0,0,1 },
49   { 0,0,0,0 },
50   { 0,0,0,0 },
51   { 0,0,0,0 },
52   { 0,0,0,0 },
53   { 0,0,0,0 },
54   { 0,0,0,0 },
55   { 0,0,0,0 },
56 };
57
58 const uint8_t ff_dv_quant_offset[4] = { 6,  3,  0,  1 };
59
60 const int ff_dv_iweight_88[64] = {
61  32768, 16710, 16710, 17735, 17015, 17735, 18197, 18079,
62  18079, 18197, 18725, 18559, 19196, 18559, 18725, 19284,
63  19108, 19692, 19692, 19108, 19284, 21400, 19645, 20262,
64  20214, 20262, 19645, 21400, 22733, 21845, 20867, 20815,
65  20815, 20867, 21845, 22733, 23173, 23173, 21400, 21400,
66  21400, 23173, 23173, 24600, 23764, 22017, 22017, 23764,
67  24600, 25267, 24457, 22672, 24457, 25267, 25971, 25191,
68  25191, 25971, 26715, 27962, 26715, 29642, 29642, 31536,
69 };
70 const int ff_dv_iweight_248[64] = {
71  32768, 17735, 16710, 18079, 18725, 21400, 17735, 19196,
72  19108, 21845, 16384, 17735, 18725, 21400, 16710, 18079,
73  20262, 23173, 18197, 19692, 18725, 20262, 20815, 23764,
74  17735, 19196, 19108, 21845, 20262, 23173, 18197, 19692,
75  21400, 24457, 19284, 20867, 21400, 23173, 22017, 25191,
76  18725, 20262, 20815, 23764, 21400, 24457, 19284, 20867,
77  24457, 27962, 22733, 24600, 25971, 29642, 21400, 23173,
78  22017, 25191, 24457, 27962, 22733, 24600, 25971, 29642,
79 };
80
81 /**
82  * The "inverse" DV100 weights are actually just the spec weights (zig-zagged).
83  */
84 const int ff_dv_iweight_1080_y[64] = {
85     128,  16,  16,  17,  17,  17,  18,  18,
86      18,  18,  18,  18,  19,  18,  18,  19,
87      19,  19,  19,  19,  19,  42,  38,  40,
88      40,  40,  38,  42,  44,  43,  41,  41,
89      41,  41,  43,  44,  45,  45,  42,  42,
90      42,  45,  45,  48,  46,  43,  43,  46,
91      48,  49,  48,  44,  48,  49, 101,  98,
92      98, 101, 104, 109, 104, 116, 116, 123,
93 };
94 const int ff_dv_iweight_1080_c[64] = {
95     128,  16,  16,  17,  17,  17,  25,  25,
96      25,  25,  26,  25,  26,  25,  26,  26,
97      26,  27,  27,  26,  26,  42,  38,  40,
98      40,  40,  38,  42,  44,  43,  41,  41,
99      41,  41,  43,  44,  91,  91,  84,  84,
100      84,  91,  91,  96,  93,  86,  86,  93,
101      96, 197, 191, 177, 191, 197, 203, 197,
102     197, 203, 209, 219, 209, 232, 232, 246,
103 };
104 const int ff_dv_iweight_720_y[64] = {
105     128,  16,  16,  17,  17,  17,  18,  18,
106      18,  18,  18,  18,  19,  18,  18,  19,
107      19,  19,  19,  19,  19,  42,  38,  40,
108      40,  40,  38,  42,  44,  43,  41,  41,
109      41,  41,  43,  44,  68,  68,  63,  63,
110      63,  68,  68,  96,  92,  86,  86,  92,
111      96,  98,  96,  88,  96,  98, 202, 196,
112     196, 202, 208, 218, 208, 232, 232, 246,
113 };
114 const int ff_dv_iweight_720_c[64] = {
115     128,  24,  24,  26,  26,  26,  36,  36,
116      36,  36,  36,  36,  38,  36,  36,  38,
117      38,  38,  38,  38,  38,  84,  76,  80,
118      80,  80,  76,  84,  88,  86,  82,  82,
119      82,  82,  86,  88, 182, 182, 168, 168,
120     168, 182, 182, 192, 186, 192, 172, 186,
121     192, 394, 382, 354, 382, 394, 406, 394,
122     394, 406, 418, 438, 418, 464, 464, 492,
123 };
124
125 static DVwork_chunk work_chunks_dv25pal   [1*12*27];
126 static DVwork_chunk work_chunks_dv25pal411[1*12*27];
127 static DVwork_chunk work_chunks_dv25ntsc  [1*10*27];
128 static DVwork_chunk work_chunks_dv50pal   [2*12*27];
129 static DVwork_chunk work_chunks_dv50ntsc  [2*10*27];
130 static DVwork_chunk work_chunks_dv100palp [2*12*27];
131 static DVwork_chunk work_chunks_dv100ntscp[2*10*27];
132 static DVwork_chunk work_chunks_dv100pali [4*12*27];
133 static DVwork_chunk work_chunks_dv100ntsci[4*10*27];
134
135 static uint32_t dv_idct_factor_sd    [2*2*22*64];
136 static uint32_t dv_idct_factor_hd1080[2*4*16*64];
137 static uint32_t dv_idct_factor_hd720 [2*4*16*64];
138
139 static const uint8_t dv_audio_shuffle525[10][9] = {
140   {  0, 30, 60, 20, 50, 80, 10, 40, 70 }, /* 1st channel */
141   {  6, 36, 66, 26, 56, 86, 16, 46, 76 },
142   { 12, 42, 72,  2, 32, 62, 22, 52, 82 },
143   { 18, 48, 78,  8, 38, 68, 28, 58, 88 },
144   { 24, 54, 84, 14, 44, 74,  4, 34, 64 },
145
146   {  1, 31, 61, 21, 51, 81, 11, 41, 71 }, /* 2nd channel */
147   {  7, 37, 67, 27, 57, 87, 17, 47, 77 },
148   { 13, 43, 73,  3, 33, 63, 23, 53, 83 },
149   { 19, 49, 79,  9, 39, 69, 29, 59, 89 },
150   { 25, 55, 85, 15, 45, 75,  5, 35, 65 },
151 };
152
153 static const uint8_t dv_audio_shuffle625[12][9] = {
154   {   0,  36,  72,  26,  62,  98,  16,  52,  88}, /* 1st channel */
155   {   6,  42,  78,  32,  68, 104,  22,  58,  94},
156   {  12,  48,  84,   2,  38,  74,  28,  64, 100},
157   {  18,  54,  90,   8,  44,  80,  34,  70, 106},
158   {  24,  60,  96,  14,  50,  86,   4,  40,  76},
159   {  30,  66, 102,  20,  56,  92,  10,  46,  82},
160
161   {   1,  37,  73,  27,  63,  99,  17,  53,  89}, /* 2nd channel */
162   {   7,  43,  79,  33,  69, 105,  23,  59,  95},
163   {  13,  49,  85,   3,  39,  75,  29,  65, 101},
164   {  19,  55,  91,   9,  45,  81,  35,  71, 107},
165   {  25,  61,  97,  15,  51,  87,   5,  41,  77},
166   {  31,  67, 103,  21,  57,  93,  11,  47,  83},
167 };
168
169 /* macroblock bit budgets */
170 static const uint8_t block_sizes_dv2550[8] = {
171     112, 112, 112, 112, 80, 80, 0, 0,
172 };
173
174 static const uint8_t block_sizes_dv100[8] = {
175     80, 80, 80, 80, 80, 80, 64, 64,
176 };
177 static const DVprofile dv_profiles[] = {
178     { .dsf = 0,
179       .video_stype = 0x0,
180       .frame_size = 120000,        /* IEC 61834, SMPTE-314M - 525/60 (NTSC) */
181       .difseg_size = 10,
182       .n_difchan = 1,
183       .time_base = { 1001, 30000 },
184       .ltc_divisor = 30,
185       .height = 480,
186       .width = 720,
187       .sar = {{8, 9}, {32, 27}},
188       .work_chunks = &work_chunks_dv25ntsc[0],
189       .idct_factor = &dv_idct_factor_sd[0],
190       .pix_fmt = PIX_FMT_YUV411P,
191       .bpm = 6,
192       .block_sizes = block_sizes_dv2550,
193       .audio_stride = 90,
194       .audio_min_samples  = { 1580, 1452, 1053 }, /* for 48, 44.1 and 32kHz */
195       .audio_samples_dist = { 1600, 1602, 1602, 1602, 1602 }, /* per SMPTE-314M */
196       .audio_shuffle = dv_audio_shuffle525,
197     },
198     { .dsf = 1,
199       .video_stype = 0x0,
200       .frame_size = 144000,        /* IEC 61834 - 625/50 (PAL) */
201       .difseg_size = 12,
202       .n_difchan = 1,
203       .time_base = { 1, 25 },
204       .ltc_divisor = 25,
205       .height = 576,
206       .width = 720,
207       .sar = {{16, 15}, {64, 45}},
208       .work_chunks = &work_chunks_dv25pal[0],
209       .idct_factor = &dv_idct_factor_sd[0],
210       .pix_fmt = PIX_FMT_YUV420P,
211       .bpm = 6,
212       .block_sizes = block_sizes_dv2550,
213       .audio_stride = 108,
214       .audio_min_samples  = { 1896, 1742, 1264 }, /* for 48, 44.1 and 32kHz */
215       .audio_samples_dist = { 1920, 1920, 1920, 1920, 1920 },
216       .audio_shuffle = dv_audio_shuffle625,
217     },
218     { .dsf = 1,
219       .video_stype = 0x0,
220       .frame_size = 144000,        /* SMPTE-314M - 625/50 (PAL) */
221       .difseg_size = 12,
222       .n_difchan = 1,
223       .time_base = { 1, 25 },
224       .ltc_divisor = 25,
225       .height = 576,
226       .width = 720,
227       .sar = {{16, 15}, {64, 45}},
228       .work_chunks = &work_chunks_dv25pal411[0],
229       .idct_factor = &dv_idct_factor_sd[0],
230       .pix_fmt = PIX_FMT_YUV411P,
231       .bpm = 6,
232       .block_sizes = block_sizes_dv2550,
233       .audio_stride = 108,
234       .audio_min_samples  = { 1896, 1742, 1264 }, /* for 48, 44.1 and 32kHz */
235       .audio_samples_dist = { 1920, 1920, 1920, 1920, 1920 },
236       .audio_shuffle = dv_audio_shuffle625,
237     },
238     { .dsf = 0,
239       .video_stype = 0x4,
240       .frame_size = 240000,        /* SMPTE-314M - 525/60 (NTSC) 50 Mbps */
241       .difseg_size = 10,           /* also known as "DVCPRO50" */
242       .n_difchan = 2,
243       .time_base = { 1001, 30000 },
244       .ltc_divisor = 30,
245       .height = 480,
246       .width = 720,
247       .sar = {{8, 9}, {32, 27}},
248       .work_chunks = &work_chunks_dv50ntsc[0],
249       .idct_factor = &dv_idct_factor_sd[0],
250       .pix_fmt = PIX_FMT_YUV422P,
251       .bpm = 6,
252       .block_sizes = block_sizes_dv2550,
253       .audio_stride = 90,
254       .audio_min_samples  = { 1580, 1452, 1053 }, /* for 48, 44.1 and 32kHz */
255       .audio_samples_dist = { 1600, 1602, 1602, 1602, 1602 }, /* per SMPTE-314M */
256       .audio_shuffle = dv_audio_shuffle525,
257     },
258     { .dsf = 1,
259       .video_stype = 0x4,
260       .frame_size = 288000,        /* SMPTE-314M - 625/50 (PAL) 50 Mbps */
261       .difseg_size = 12,           /* also known as "DVCPRO50" */
262       .n_difchan = 2,
263       .time_base = { 1, 25 },
264       .ltc_divisor = 25,
265       .height = 576,
266       .width = 720,
267       .sar = {{16, 15}, {64, 45}},
268       .work_chunks = &work_chunks_dv50pal[0],
269       .idct_factor = &dv_idct_factor_sd[0],
270       .pix_fmt = PIX_FMT_YUV422P,
271       .bpm = 6,
272       .block_sizes = block_sizes_dv2550,
273       .audio_stride = 108,
274       .audio_min_samples  = { 1896, 1742, 1264 }, /* for 48, 44.1 and 32kHz */
275       .audio_samples_dist = { 1920, 1920, 1920, 1920, 1920 },
276       .audio_shuffle = dv_audio_shuffle625,
277     },
278     { .dsf = 0,
279       .video_stype = 0x14,
280       .frame_size = 480000,        /* SMPTE-370M - 1080i60 100 Mbps */
281       .difseg_size = 10,           /* also known as "DVCPRO HD" */
282       .n_difchan = 4,
283       .time_base = { 1001, 30000 },
284       .ltc_divisor = 30,
285       .height = 1080,
286       .width = 1280,
287       .sar = {{1, 1}, {3, 2}},
288       .work_chunks = &work_chunks_dv100ntsci[0],
289       .idct_factor = &dv_idct_factor_hd1080[0],
290       .pix_fmt = PIX_FMT_YUV422P,
291       .bpm = 8,
292       .block_sizes = block_sizes_dv100,
293       .audio_stride = 90,
294       .audio_min_samples  = { 1580, 1452, 1053 }, /* for 48, 44.1 and 32kHz */
295       .audio_samples_dist = { 1600, 1602, 1602, 1602, 1602 }, /* per SMPTE-314M */
296       .audio_shuffle = dv_audio_shuffle525,
297     },
298     { .dsf = 1,
299       .video_stype = 0x14,
300       .frame_size = 576000,        /* SMPTE-370M - 1080i50 100 Mbps */
301       .difseg_size = 12,           /* also known as "DVCPRO HD" */
302       .n_difchan = 4,
303       .time_base = { 1, 25 },
304       .ltc_divisor = 25,
305       .height = 1080,
306       .width = 1440,
307       .sar = {{1, 1}, {4, 3}},
308       .work_chunks = &work_chunks_dv100pali[0],
309       .idct_factor = &dv_idct_factor_hd1080[0],
310       .pix_fmt = PIX_FMT_YUV422P,
311       .bpm = 8,
312       .block_sizes = block_sizes_dv100,
313       .audio_stride = 108,
314       .audio_min_samples  = { 1896, 1742, 1264 }, /* for 48, 44.1 and 32kHz */
315       .audio_samples_dist = { 1920, 1920, 1920, 1920, 1920 },
316       .audio_shuffle = dv_audio_shuffle625,
317     },
318     { .dsf = 0,
319       .video_stype = 0x18,
320       .frame_size = 240000,        /* SMPTE-370M - 720p60 100 Mbps */
321       .difseg_size = 10,           /* also known as "DVCPRO HD" */
322       .n_difchan = 2,
323       .time_base = { 1001, 60000 },
324       .ltc_divisor = 60,
325       .height = 720,
326       .width = 960,
327       .sar = {{1, 1}, {4, 3}},
328       .work_chunks = &work_chunks_dv100ntscp[0],
329       .idct_factor = &dv_idct_factor_hd720[0],
330       .pix_fmt = PIX_FMT_YUV422P,
331       .bpm = 8,
332       .block_sizes = block_sizes_dv100,
333       .audio_stride = 90,
334       .audio_min_samples  = { 1580, 1452, 1053 }, /* for 48, 44.1 and 32kHz */
335       .audio_samples_dist = { 1600, 1602, 1602, 1602, 1602 }, /* per SMPTE-314M */
336       .audio_shuffle = dv_audio_shuffle525,
337     },
338     { .dsf = 1,
339       .video_stype = 0x18,
340       .frame_size = 288000,        /* SMPTE-370M - 720p50 100 Mbps */
341       .difseg_size = 12,           /* also known as "DVCPRO HD" */
342       .n_difchan = 2,
343       .time_base = { 1, 50 },
344       .ltc_divisor = 50,
345       .height = 720,
346       .width = 960,
347       .sar = {{1, 1}, {4, 3}},
348       .work_chunks = &work_chunks_dv100palp[0],
349       .idct_factor = &dv_idct_factor_hd720[0],
350       .pix_fmt = PIX_FMT_YUV422P,
351       .bpm = 8,
352       .block_sizes = block_sizes_dv100,
353       .audio_stride = 90,
354       .audio_min_samples  = { 1896, 1742, 1264 }, /* for 48, 44.1 and 32kHz */
355       .audio_samples_dist = { 1920, 1920, 1920, 1920, 1920 },
356       .audio_shuffle = dv_audio_shuffle625,
357     },
358     { .dsf = 1,
359       .video_stype = 0x1,
360       .frame_size = 144000,        /* IEC 61883-5 - 625/50 (PAL) */
361       .difseg_size = 12,
362       .n_difchan = 1,
363       .time_base = { 1, 25 },
364       .ltc_divisor = 25,
365       .height = 576,
366       .width = 720,
367       .sar = {{16, 15}, {64, 45}},
368       .work_chunks = &work_chunks_dv25pal[0],
369       .idct_factor = &dv_idct_factor_sd[0],
370       .pix_fmt = PIX_FMT_YUV420P,
371       .bpm = 6,
372       .block_sizes = block_sizes_dv2550,
373       .audio_stride = 108,
374       .audio_min_samples  = { 1896, 1742, 1264 }, /* for 48, 44.1 and 32kHz */
375       .audio_samples_dist = { 1920, 1920, 1920, 1920, 1920 },
376       .audio_shuffle = dv_audio_shuffle625,
377     }
378 };
379
380 const DVprofile* avpriv_dv_frame_profile(const DVprofile *sys,
381                                   const uint8_t* frame, unsigned buf_size)
382 {
383     int i, dsf, stype;
384
385     if (buf_size < 80 * 5 + 48 + 4)
386         return NULL;
387
388     dsf = (frame[3] & 0x80) >> 7;
389     stype = frame[80 * 5 + 48 + 3] & 0x1f;
390
391     /* 576i50 25Mbps 4:1:1 is a special case */
392     if (dsf == 1 && stype == 0 && frame[4] & 0x07 /* the APT field */) {
393         return &dv_profiles[2];
394     }
395
396     for (i = 0; i < FF_ARRAY_ELEMS(dv_profiles); i++)
397         if (dsf == dv_profiles[i].dsf && stype == dv_profiles[i].video_stype)
398             return &dv_profiles[i];
399
400     /* check if old sys matches and assumes corrupted input */
401     if (sys && buf_size == sys->frame_size)
402         return sys;
403
404     return NULL;
405 }
406
407 const DVprofile* avpriv_dv_codec_profile(AVCodecContext* codec)
408 {
409     int i;
410
411     for (i=0; i<FF_ARRAY_ELEMS(dv_profiles); i++)
412        if (codec->height  == dv_profiles[i].height  &&
413            codec->pix_fmt == dv_profiles[i].pix_fmt &&
414            codec->width   == dv_profiles[i].width)
415                return &dv_profiles[i];
416
417     return NULL;
418 }
419
420 void ff_dv_print_profiles(void *logctx, int loglevel)
421 {
422     int i;
423     for (i = 0; i < FF_ARRAY_ELEMS(dv_profiles); i++) {
424         const DVprofile *p = &dv_profiles[i];
425         av_log(logctx, loglevel, "Frame size: %dx%d; pixel format: %s, "
426                "framerate: %d/%d\n", p->width, p->height, av_get_pix_fmt_name(p->pix_fmt),
427                p->time_base.den, p->time_base.num);
428     }
429 }